AI a ľudské práva

Umelá inteligencia a ľudské práva

Umelá inteligencia (AI) označuje systémy alebo stroje, ktoré napodobňujú ľudskú inteligenciu na vykonávanie úloh a dokážu sa postupne zlepšovať na základe získaných informácií. Ľudské práva sú základné práva a slobody, ktoré patria každej osobe na svete od narodenia až do smrti. Keď AI prichádza do styku s ľudskými právami, ide o otázku, ako môžu AI technológie tieto základné práva pozitívne aj negatívne ovplyvniť.

Technológie AI môžu významne posilniť ľudské práva zlepšením prístupu k základným službám, ako je zdravotná starostlivosť a vzdelávanie, a podporou rovnosti a nediskriminácie. Zároveň však predstavujú riziká, ako sú zásahy do súkromia a zaujatosť v rozhodovaní, ktoré môžu ovplyvniť práva ako sloboda prejavu a rovnosť. Rýchly vývoj a zavádzanie AI si vyžadujú dôkladné hodnotenia vplyvu na ľudské práva a regulačné rámce, aby sa zaistilo zodpovedné využívanie týchto technológií.

Všeobecná deklarácia ľudských práv

Čo je Všeobecná deklarácia ľudských práv
Všeobecná deklarácia ľudských práv (VDĽP) je historický dokument v oblasti ľudských práv, ktorý vypracovali zástupcovia s rôznym právnym a kultúrnym zázemím zo všetkých regiónov sveta. Bola vyhlásená Valným zhromaždením OSN v Paríži 10. decembra 1948 ako spoločný štandard dosiahnutí pre všetky národy a ľudí.

Všeobecná deklarácia ľudských práv a AI
AI technológie môžu ovplyvniť rôzne práva uvedené vo VDĽP, ako je právo na súkromie, sloboda prejavu a nediskriminácia. Keďže AI systémy sú čoraz viac súčasťou spoločnosti, musia byť vyvíjané a využívané v súlade s týmito právami.

Analýza Európskeho parlamentu poukazuje na dôležitosť medzinárodných rámcov na reguláciu AI s cieľom zaistiť, že jej zavedenie nenaruší tieto základné práva. Úloha AI pri posilňovaní autoritárskych praktík zdôrazňuje naliehavosť robustného medzinárodného regulačného rámca, ako to vyzdvihuje Európsky parlament.

Vplyv umelej inteligencie na ľudské práva

Vplyv umelej inteligencie na ľudské práva zahŕňa potenciálne prínosy aj riziká, ktoré AI technológie predstavujú pre základné práva a slobody jednotlivcov. Patria sem spôsoby, ako môže AI podporovať ľudské práva, napríklad zlepšovaním prístupnosti pre osoby so zdravotným postihnutím, ako aj možnosti zásahov do práv, napríklad prostredníctvom zaujatých algoritmov alebo sledovacích technológií.

Podľa Promise Institute for Human Rights bola AI využívaná na uľahčenie masového dohľadu, prehlbovanie zaujatosti v rôznych oblastiach, ako je trestná justícia, zdravotníctvo a vzdelávanie, čím sa zvyšuje diskriminácia marginalizovaných skupín. Korozívny vplyv AI na demokracie cez dezinformácie a deepfakes ešte viac zdôrazňuje potrebu ochranných opatrení.

Posudzovanie vplyvu na ľudské práva

Definícia:
Posudzovanie vplyvu na ľudské práva (HRIA) sú procesy na hodnotenie možných dôsledkov určitých činností alebo rozhodnutí na ľudské práva, najmä pri nových technológiách, ako je AI. Tieto posudzovania sú zásadné na zaistenie, aby AI systémy boli vyvíjané a implementované spôsobom, ktorý rešpektuje a podporuje ľudské práva.

Príklad:
HRIA pri AI systéme na rozpoznávanie tváre by mohlo hodnotiť, ako technológia ovplyvňuje právo na súkromie a či nediskriminuje určité demografické skupiny.

HRIA sú nevyhnutné na posúdenie sociálnych a etických dôsledkov technológií AI, aby neboli nasadené spôsobom, ktorý by mohol porušiť ľudské práva. Európsky parlament zdôrazňuje strategické politické prístupy na obmedzenie vplyvu algoritmickej kontroly.

Charta základných práv

Charta základných práv Európskej únie zakotvuje určité politické, sociálne a hospodárske práva občanov a obyvateľov EÚ do práva Únie. Bola vyhlásená v roku 2000 a právne záväznou sa stala Lisabonskou zmluvou v roku 2009.

Charta základných práv a AI
Charta je relevantná v diskusiách o regulácii AI v EÚ, keďže AI systémy musia dodržiavať práva a princípy, ktoré v nej sú, ako je právo na ochranu údajov a nediskrimináciu.

Charta zohráva kľúčovú úlohu pri formovaní regulácie AI v EÚ a zabezpečuje, že AI technológie sú v súlade so základnými právami. Európsky parlament zdôrazňuje regulačnú zhodu a medzinárodnú spoluprácu na ochranu týchto práv.

Rozhodovanie

V kontexte AI a ľudských práv rozhodovanie označuje procesy, pri ktorých AI systémy analyzujú údaje a prijímajú rozhodnutia, ktoré môžu ovplyvniť práva a slobody jednotlivcov. To je obzvlášť dôležité v automatizovaných rozhodovacích systémoch používaných pri prijímaní do zamestnania, poskytovaní úverov či vymáhaní práva.

Príklad:
AI systém používaný pri nábore môže prechádzať životopisy a rozhodovať o vhodnosti kandidátov. Ak je takýto systém zaujatý, môže nespravodlivo ovplyvniť pracovné príležitosti určitých skupín.

Sympózium Promise Institute poukazuje na potenciál rozhodovacích procesov AI prehlbovať zaujatosť a diskrimináciu a zdôrazňuje potrebu transparentnosti a zodpovednosti v automatizovaných systémoch.

Medzinárodné ľudské práva

Medzinárodné ľudské práva sú globálne štandardy na zabezpečenie a ochranu základných práv a slobôd jednotlivcov, ako ich ustanovujú medzinárodné zmluvy a dohody.

Medzinárodné ľudské práva a AI
Medzinárodné rámce ľudských práv poskytujú základ na hodnotenie a usmerňovanie etického vývoja a využívania AI technológií, aby nezasahovali do práv ľudí.

Medzinárodný režim ľudských práv ponúka robustný rámec na riešenie výziev a príležitostí AI, ako zdôrazňuje Promise Institute. Účinná regulácia a zodpovednosť sú nevyhnutné na udržanie týchto štandardov.

Strojové učenie

Čo je strojové učenie*
Strojové učenie je podmnožina AI, ktorá zahŕňa používanie algoritmov a štatistických modelov, vďaka ktorým sa počítače učia a robia predpovede alebo rozhodnutia na základe údajov.

Súvislosť s AI a ľudskými právami
Systémy strojového učenia môžu neúmyselne preberať zaujatosť zo svojich tréningových dát, čo vedie k rozhodnutiam, ktoré môžu diskriminovať určité skupiny a tým ovplyvňovať ich ľudské práva.

Zaujatosť v modeloch strojového učenia predstavuje významnú výzvu pre ľudské práva. Promise Institute zdôrazňuje potrebu riešenia týchto zaujatostí na predchádzanie diskriminácii a zabezpečenie spravodlivých výsledkov.

Sloboda prejavu

Sloboda prejavu je právo slobodne vyjadrovať svoje myšlienky a názory prostredníctvom reči, písma či iných foriem komunikácie bez strachu z cenzúry alebo trestu.

Sloboda prejavu a AI
AI technológie, najmä tie používané na moderovanie obsahu na sociálnych sieťach, môžu ovplyvniť slobodu prejavu tým, že určujú, aký obsah je prípustný a čo je odstránené, čo môže viesť k nadmernej cenzúre.

Úloha AI pri moderovaní obsahu a šírení informácií môže ovplyvniť slobodu prejavu. Sympózium Promise Institute upozorňuje na potrebu vyvážených prístupov na ochranu tohto základného práva.

Úloha osobitných spravodajcov

Osobitný spravodajca je nezávislý expert menovaný OSN na skúmanie, monitorovanie a odporúčanie riešení problémov v oblasti ľudských práv.

Osobitní spravodajcovia a AI
Osobitný spravodajca pre právo na slobodu pokojného zhromažďovania a združovania napríklad môže skúmať, ako AI technológie ovplyvňujú tieto práva, napríklad prostredníctvom dohľadu alebo automatizovaného rozhodovania.

Osobitní spravodajcovia zohrávajú kľúčovú úlohu pri skúmaní vplyvu AI na ľudské práva a presadzovaní zodpovedného využívania a regulácie. Ich poznatky prispievajú k formovaniu medzinárodných politík.

Rozpoznávanie tváre

Čo je rozpoznávanie tváre
Technológia rozpoznávania tváre využíva biometrický softvér na identifikáciu jednotlivcov podľa ich čŕt tváre.

Táto technológia vyvoláva významné obavy o ľudské práva v súvislosti so súkromím, dohľadom a potenciálnou diskrimináciou, najmä ak je nasadená bez dostatočných ochranných opatrení alebo dohľadu.

Nasadzovanie rozpoznávania tváre vo verejnom aj súkromnom sektore vyvolalo diskusie o súkromí a zaujatosti. Promise Institute zdôrazňuje potrebu robustných ochranných opatrení na ochranu práv.

Porušovanie ľudských práv

Čo je porušovanie ľudských práv
Porušenia ľudských práv nastávajú, keď činnosti štátnych alebo neštátnych aktérov zasahujú do slobôd a práv zaručených jednotlivcom medzinárodným právom.

AI systémy môžu prispieť k porušovaniu ľudských práv, ak sú využívané na účely ako je masový dohľad alebo ak prehlbujú zaujatosť vedúcu k diskriminácii.

Európsky parlament a Promise Institute zdôrazňujú potenciál AI prehlbovať porušovanie ľudských práv, pričom upozorňujú na potrebu ostražitosti a regulačných rámcov na predchádzanie zneužitiu.

Udržateľný rozvoj

Udržateľný rozvoj je princíp organizovania na dosahovanie cieľov ľudského rozvoja pri súčasnom zachovaní schopnosti prírodných systémov poskytovať zdroje a ekosystémové služby, na ktorých závisí ekonomika a spoločnosť.

Udržateľný rozvoj a AI
AI môže prispieť k cieľom udržateľného rozvoja optimalizáciou využívania zdrojov a ponúkaním inovatívnych riešení environmentálnych a spoločenských výziev, no musí byť riadená tak, aby nezhoršovala nerovnosti či environmentálne škody.

Úloha AI v udržateľnom rozvoji je dvojsečná, ponúka možnosti inovácií, no zároveň riziko prehlbovania nerovností. Promise Institute presadzuje spravodlivé nasadenie AI na podporu udržateľných cieľov.

Ekonomické a sociálne práva

Ekonomické a sociálne práva sú kategóriou ľudských práv, ktoré zahŕňajú právo na vzdelanie, prácu, primeranú životnú úroveň, zdravie a sociálne zabezpečenie.

Vplyv AI na ekonomické a sociálne práva
AI technológie môžu ovplyvniť ekonomické a sociálne práva transformáciou trhu práce, vplyvom na pracovné príležitosti a prístup k základným službám, čím otvárajú otázky rovnosti a spravodlivosti.

Vplyv AI na ekonomické a sociálne práva si vyžaduje dôkladné zváženie, aby boli výsledky spravodlivé a rovné. Sympózium Promise Institute zdôrazňuje potrebu venovať sa týmto dopadom.

Negatívne dopady AI na ľudské práva

Negatívne dopady AI na ľudské práva označujú možné nepriaznivé účinky, ktoré môžu AI technológie mať na základné práva a slobody jednotlivcov.

Tieto dopady môžu zahŕňať stratu súkromia, diskrimináciu prostredníctvom zaujatých algoritmov, znížený prístup k službám a ohrozenie slobody prejavu a združovania.

Promise Institute a Európsky parlament poukazujú na možné negatívne dopady AI a vyzývajú na komplexné hodnotenia a regulačné opatrenia na zmiernenie rizík.