Jakie praktyki są zakazane przez unijne Rozporządzenie o AI?

Scoring społeczny i manipulacyjna AI

Unijne Rozporządzenie o AI wskazuje konkretne praktyki sztucznej inteligencji (AI), które są zakazane ze względu na sprzeczność z europejskimi wartościami, etyką i prawami podstawowymi. Wśród nich znajduje się wykorzystywanie AI do scoringu społecznego przez rządy oraz systemy manipulacyjne. Artykuł 5 rozporządzenia opisuje te zakazy, by zapewnić, że AI jest rozwijana, wdrażana i używana w sposób odpowiedzialny i etyczny.

Scoring społeczny przez rządy

Scoring społeczny polega na ocenianiu lub kategoryzowaniu osób na podstawie ich zachowań społecznych, cech osobistych lub innych danych zbieranych w czasie. Unijne Rozporządzenie o AI wyraźnie zakazuje takich systemów, gdy są one używane przez organy publiczne lub rządy. Zakaz ten ma na celu przeciwdziałanie zagrożeniom dla praw podstawowych, w tym prywatności, równości i wolności od dyskryminacji.

Kluczowe aspekty zakazu scoringu społecznego

• Nieuzasadnione traktowanie: Rozporządzenie zakazuje systemów AI, które niesprawiedliwie lub szkodliwie traktują osoby lub grupy w sytuacjach niezwiązanych z pierwotnym celem zbierania danych. Przykładowo, wykorzystywanie danych z pracy do decydowania o dostępie do mieszkania lub edukacji jest niedozwolone.
• Nieproporcjonalne konsekwencje: Systemy scoringu społecznego, które nakładają kary niewspółmierne do ocenianego zachowania, na przykład odmowa dostępu do usług publicznych, są również zakazane.

Wątpliwości etyczne

Systemy scoringu społecznego, takie jak stosowane w niektórych krajach poza UE, budzą obawy dotyczące masowej inwigilacji, naruszeń prywatności i wzrostu nierówności społecznych. UE zakazuje tych systemów, by chronić prawa jednostki i promować sprawiedliwość społeczną.

Manipulacyjne techniki AI

Unijne Rozporządzenie o AI zabrania również systemów AI, które manipulują zachowaniem ludzi bez ich świadomości. Techniki te wykorzystują podatności takie jak wiek, niepełnosprawność czy sytuacja finansowa, by wpływać na decyzje lub działania w sposób szkodliwy.

Manipulacja podprogowa

Systemy AI wykorzystujące techniki podprogowe, których celem jest wpływanie na ludzi bez ich świadomej zgody, są zakazane. Metody te polegają na wprowadzaniu subtelnych, niewykrywalnych bodźców w mediach lub reklamach, by wpływać na działania, np. decyzje zakupowe czy wyborcze. Rozporządzenie UE zakazuje tych systemów, gdy powodują one istotną szkodę dla osób lub grup.

Wykorzystywanie podatności

Technologie AI, które wykorzystują podatności określonych populacji, takich jak dzieci, osoby starsze lub osoby w trudnej sytuacji ekonomicznej, również są zakazane. Przykładem mogą być reklamy skierowane do dzieci z manipulacyjnymi treściami promującymi niezdrowe produkty.

Przykłady z życia

Manipulacyjna AI budzi zarówno etyczne, jak i praktyczne obawy. Na przykład sprawa Cambridge Analytica pokazała, jak profilowanie psychologiczne napędzane przez AI było wykorzystywane do wpływania na decyzje wyborców. Unijne Rozporządzenie o AI zakazuje takich praktyk, aby chronić autonomię jednostki i jej prawo do samodzielnych decyzji.

Zakazy scoringu społecznego i manipulacyjnej AI w unijnym Rozporządzeniu o AI podkreślają nacisk UE na tworzenie bezpiecznych, etycznych i zorientowanych na człowieka systemów AI. Przepisy te mają chronić ludzi przed szkodami, przestrzegać praw podstawowych i zapobiegać nadużyciom zaawansowanych technologii. Dzięki temu UE ustanawia globalny standard odpowiedzialnej regulacji AI.

Biometryczna identyfikacja w czasie rzeczywistym i podprogowa AI

Unijne Rozporządzenie o AI wprowadza surowe ograniczenia dla technologii sztucznej inteligencji, które mogą naruszać podstawowe prawa lub zasady etyczne. Wśród tych regulacji znajdują się przepisy dotyczące biometrycznej identyfikacji w czasie rzeczywistym oraz metod podprogowej AI, ponieważ obie te technologie wiążą się z poważnymi zagrożeniami etycznymi, bezpieczeństwa i prywatności.

Biometryczna identyfikacja w czasie rzeczywistym

Systemy biometrycznej identyfikacji w czasie rzeczywistym wykorzystują unikalne dane biometryczne—takie jak cechy twarzy, odciski palców czy wzory tęczówki—do identyfikowania osób, często w przestrzeni publicznej. Technologie te są jednym z głównych obszarów zainteresowania unijnego Rozporządzenia o AI ze względu na ryzyko dla prywatności, wolności osobistej i autonomii.

Ogólny zakaz i wyjątki

• Podstawowy zakaz: Rozporządzenie generalnie zakazuje stosowania biometrycznej identyfikacji w czasie rzeczywistym w miejscach publicznie dostępnych. Ograniczenie to ma zapobiegać masowej inwigilacji oraz uniemożliwić monitorowanie i identyfikację osób bez ich zgody.
• Wyjątki dla organów ścigania: Obowiązują ograniczone wyjątki pod rygorystycznymi warunkami, pozwalające organom ścigania na korzystanie z tych systemów wyłącznie w sytuacjach absolutnej konieczności. Dozwolone przypadki obejmują:
  • Poszukiwanie ofiar uprowadzenia, handlu ludźmi lub wykorzystywania seksualnego.
  • Zapobieganie bezpośrednim zagrożeniom dla życia lub bezpieczeństwa publicznego, na przykład atakom terrorystycznym.
  • Identyfikację podejrzanych o poważne przestępstwa, pod warunkiem że czyn ten zagrożony jest karą pozbawienia wolności co najmniej czterech lat w danym państwie członkowskim.
• Zabezpieczenia: Nawet w tych rzadkich sytuacjach władze muszą zapewnić, że system jest używany w sposób proporcjonalny i ukierunkowany, obejmując wyłącznie osoby zidentyfikowane wcześniej. Wykorzystanie musi być również zgodne z przepisami o ochronie danych osobowych określonymi w RODO.

Wątpliwości etyczne i prawne

Technologie biometryczne w czasie rzeczywistym niosą ryzyko masowej inwigilacji, nadużyć ze strony władz i erozji prywatności. Ograniczenia wprowadzone przez unijne Rozporządzenie o AI mają na celu zrównoważenie bezpieczeństwa publicznego z prawami jednostki, tak by technologia nie mogła być wykorzystywana w celach opresyjnych lub dyskryminacyjnych.

Podprogowa AI

Systemy podprogowej AI wpływają na decyzje lub zachowania ludzi bez ich świadomej zgody. Działają poprzez wprowadzanie subtelnych i niewykrywalnych bodźców w mediach lub interakcjach, co może prowadzić do podejmowania decyzji, których dana osoba normalnie by nie podjęła.

Wyraźny zakaz

• Techniki manipulacyjne: Metody podprogowej AI, które w szkodliwy sposób zniekształcają decyzje lub zachowania ludzi, są całkowicie zakazane. Systemy te omijają mechanizmy obronne człowieka, ograniczając jego autonomię i zdolność do podejmowania świadomych wyborów.
• Przykłady manipulacji podprogowej: Takie techniki AI mogą występować w sytuacjach takich jak:
  • Sterowanie zachowaniem konsumentów za pomocą ukrytych przekazów w reklamach.
  • Kształtowanie decyzji wyborców poprzez wprowadzanie stronniczych sygnałów w kampaniach politycznych.
  • Nakłanianie do określonych decyzji finansowych pod pozorem spersonalizowanych rekomendacji.

Wykorzystywanie podatności

Rozporządzenie zakazuje również systemów AI, które wykorzystują podatności związane z wiekiem, niepełnosprawnością lub statusem społeczno-ekonomicznym, jeśli powodują one szkodliwe zniekształcenie zachowania. Przykłady:

• Reklama niezdrowych produktów skierowana bezpośrednio do dzieci.
• Przekonywanie osób starszych do zakupu niepotrzebnych lub szkodliwych usług.

Implikacje etyczne

Podprogowa AI stoi w sprzeczności z zasadami przejrzystości i autonomii. Jej potencjalne nadużycia w sferze politycznej, komercyjnej i społecznej podkreślają konieczność silnych regulacji. Zakaz tych systemów przez unijne Rozporządzenie o AI odzwierciedla zobowiązanie do ochrony ludzi przed ukrytą manipulacją i zapewnienia, że AI szanuje godność człowieka.

Ograniczenia dotyczące biometrycznej identyfikacji w czasie rzeczywistym oraz podprogowej AI pokazują nacisk UE na etyczną i zorientowaną na człowieka sztuczną inteligencję. Regulując te technologie wysokiego ryzyka, unijne Rozporządzenie o AI chroni prawa podstawowe, buduje zaufanie do AI i wyznacza globalny standard odpowiedzialnego rozwoju AI. Przepisy te zapewniają, że systemy AI są wykorzystywane w sposób zgodny z wartościami społecznymi i nie prowadzą do szkody lub nierówności.