umela inteligencia
Ilustračné PHOTO: © European Union-EP.

Umelá inteligencia: Europarlament prijal prelomový zákon

Parlament v stredu schválil akt o umelej inteligencii, ktorý zaisťuje bezpečnosť a súlad so základnými právami a zároveň podporuje inovácie.

Nariadenie, ktorého znenie dohodol Parlament v decembri 2023 s členskými štátmi, bolo schválené 523 hlasmi za, pričom 46 bolo proti a 49 sa zdržalo hlasovania.

Cieľom nariadenia je chrániť základné práva, demokraciu, právny štát a environmentálnu udržateľnosť pred vysokorizikovou umelou inteligenciu a zároveň podporovať inovácie a zabezpečiť európske líderstvo v tejto oblasti. V nariadení sa stanovujú povinnosti pre umelú inteligenciu na základe jej potenciálnych rizík a vplyvu.

Zakázané použitie

Podľa nových pravidiel je zakázané používať aplikácie umelej inteligencie, ktoré ohrozujú práva občanov. Týka sa to napríklad systémov biometrickej kategorizácie založených na citlivých charakteristikách. Ďalším príkladom je necielené extrahovanie podôb tváre z internetu alebo videozáznamov z bezpečnostných kamier na tvorbu databáz na rozpoznávanie tvárí. Okrem uvedených praktík bude zakázané aj rozpoznávanie emócií na pracovisku či v škole, sociálne bodovanie či prediktívne vykonávanie policajných funkcií, ak je založené výlučne na profilovaní osoby alebo posudzovaní jej charakteristík. Nebude sa môcť používať ani umelá inteligencia, ktorá manipuluje ľudské správanie alebo zneužíva zraniteľnosti ľudí.

Výnimky na účely presadzovania práva

Používanie systémov biometrickej identifikácie na presadzovanie práva je v zásade zakázané s výnimkou detailne vymenovaných a úzko vymedzených situácií. Biometrická identifikácia v reálnom čase sa môže používať len vtedy, ak sú splnené prísne záruky, napríklad ak je takéto použitie časovo a geograficky obmedzené a bolo k nemu vopred vydané súdne alebo správne povolenie. Môže sa to týkať napríklad cieleného pátrania po nezvestných osobách alebo predchádzania teroristickým útokom. Používanie systémov biometrickej identifikácie po udalosti sa považuje za vysokorizikové a vyžaduje si povolenie súdu v súvislosti s trestným činom.

Povinnosti týkajúce sa vysokorizikových systémov

Jasné povinnosti sa stanovia aj pre iné vysokorizikové systémy umelej inteligencie, najmä vzhľadom na ich potenciálne riziko pre zdravie, bezpečnosť, základné práva, životné prostredie, demokraciu a právny štát. Vysokorizikové systémy umelej inteligencie sa používajú napríklad v kritickej infraštruktúre, vzdelávaní a odbornej príprave, ale aj pri nábore do zamestnania či v kľúčových súkromných a verejných službách, ako sú zdravotníctvo a bankovníctvo. Uplatňujú sa aj v určitých systémoch presadzovania práva, pri riadení migrácie a hraníc, ako aj v súdnictve a v demokratických procesoch, napríklad na ovplyvňovanie volieb. Pri takýchto systémoch bude povinné posúdiť a znížiť riziká, viesť záznamy o používaní, zabezpečiť ich transparentnosť a presnosť, ako aj ľudský dohľad. Občania budú mať právo podávať sťažnosti na systémy umelej inteligencie, ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré ovplyvňujú ich základné práva.

Požiadavky na transparentnosť

Univerzálne systémy AI (GPAI) a modely GPAI, na ktorých sú založené, musia spĺňať určité požiadavky na transparentnosť, vrátane súladu s autorskými právami v EÚ a zverejňovania podrobných súhrnov obsahu používaného na školenia. Na výkonnejšie modely GPAI, ktoré by mohli predstavovať systémové riziko, sa budú vzťahovať dodatočné požiadavky ako vykonávanie hodnotení modelov, posudzovanie a zmierňovanie systémových rizík a nahlasovanie udalostí. Umelé alebo zmanipulované obrázky, audio nahrávky alebo videá („deepfakes“) musia byť jasne označené.

Opatrenia na podporu inovácií a malých podnikov

Členské štáty budú povinné zabezpečiť, aby mohli malé a stredné podniky a startupy ešte pred uvedením svojich produktov na trh vyvíjať a trénovať inovatívnu umelú inteligenciu v experimentálnych regulačných prostrediach a testovať ju v reálnych podmienkach.

Vyhlásenia spravodajcov

Spoluspravodajca Výboru pre vnútorný trh Brando Benifei (S&D, Taliansko) v utorok počas plenárnej rozpravy povedal: „Konečne máme prvý záväzný zákon na svete o umelej inteligencii, ktorý má znížiť riziká, vytvárať príležitosti, bojovať proti diskriminácii a priniesť transparentnosť. Vďaka Parlamentu budú v Európe zakázané neprijateľné praktiky umelej inteligencie a budú chránené práva pracovníkov a občanov. Bude zriadený Úrad pre umelú inteligenciu na podporu spoločností, aby začali dodržiavať pravidlá skôr, ako vstúpia do platnosti. Zabezpečili sme, že ľudské bytosti a európske hodnoty sú v samom centre rozvoja umelej inteligencie.“

Spoluspravodajca Výboru pre občianske slobody Dragos Tudorache (Renew, Rumunsko) povedal: „EÚ splnila svoje ciele. Pojem umelej inteligencie sme spojili so základnými hodnotami, ktoré tvoria základ našej spoločnosti. Čaká nás však ešte veľa práce, ktorá presahuje samotný zákon. Umelá inteligencia nás prinúti prehodnotiť spoločenskú zmluvu v srdci našich demokracií, naše vzdelávacie modely, trhy práce a spôsob vedenia vojen. Zákon o umelej inteligencii je východiskovým bodom pre nový model riadenia postavený na technológii. Teraz sa musíme zamerať na uvedenie tohto zákona do praxe.

Ďalší postup

Nariadenie ešte musia naposledy skontrolovať právnici lingvisti. Očakáva sa, že s konečnou platnosťou bude prijaté pred koncom volebného obdobia (prostredníctvom postupu tzv. korigenda). Zákon musí formálne schváliť aj Rada.

Účinnosť nadobudne 20 dní po zverejnení v úradnom vestníku a naplno sa začne uplatňovať 24 mesiacov po nadobudnutí účinnosti s výnimkou týchto prípadov: zákaz určitých aplikácií, ktorý sa uplatní šesť mesiacov po nadobudnutí účinnosti; kódex správnej praxe (deväť mesiacov po nadobudnutí účinnosti); pravidlá pre systémy umelej inteligencie na všeobecné účely vrátane ich správy (dvanásť mesiacov po nadobudnutí účinnosti) a povinnosti pre vysokorizikové systémy (36 mesiacov po nadobudnutí účinnosti).

Viac..  Peter Pollák: 40% energie spotrebuje vykurovanie budov, toto číslo musíme znížiť

Súvislosti

Zákon o umelej inteligencii priamo reaguje na návrhy občanov z Konferencie o budúcnosti Európy (KoBE), konkrétne na návrh 12(10) o zvyšovaní konkurencieschopnosti EÚ v strategických sektoroch, návrh 33 (5) o bezpečnej a dôveryhodnej spoločnosti, vrátane boja proti dezinformáciám a zaistenia, že ľudia budú mať v konečnom dôsledku kontrolu, návrh 35 o podpore digitálnych inovácií (3) pri zabezpečení ľudského dohľadu a (8) dôveryhodnom a zodpovednom používaní umelej inteligencie, stanovením záruk a zabezpečením transparentnosti a návrh 37 (3) o používaní umelej inteligencie a digitálnych nástrojov na zlepšenie prístupu občanov k informáciám vrátane osôb so zdravotným postihnutím.

Reakcie slovenských poslancov

Monika Beňová (NI, SK) uviedla: „Nové pravidlá zamerané na reguláciu umelej inteligencie sú výsledkom dohody s členskými štátmi Európskej únie a budú sa tak uplatňovať vo všetkých krajinách rovnako. Európa sa stane prvým kontinentom s komplexnými pravidlami pre využívanie umelej inteligencie. Tieto by mali platiť najskôr od budúceho roka. Zohľadňovať budú predovšetkým mieru rizika, ktorú technológie a jednotlivé systémy využívajúce umelú inteligenciu predstavujú. Riziká musíme vedieť účinne eliminovať. Napríklad tie predstavujúce ohrozenie pre základné ľudské práva, či zamerané na manipuláciu ľudského správania budú zakázané. Za porušovanie nastavených pravidiel by mal byť zavedený prísny systém sankcií, vrátane finančných pokút. Nová legislatíva je kompromisom medzi ochranou pred potenciálnymi negatívnymi dôsledkami zneužívania umelej inteligencie a možnosťami jej udržateľného rozvoja v Európe do budúcnosti.“

Vladimír Bilčík (EPP, SK) uviedol: „Umelá inteligencia môže byť dobrý sluha. Je preto dôležité, aby sme jej spoločenský prínos naplno využili a zároveň sa chránili pred jej možnými úskaliami a rizikami. Aj na Slovensku už dnes mnohí novinári, tvorcovia či podnikatelia v rôznych odvetviach využívajú služby ako Chat GPT a nevidím cestu v tom, aby sme takéto služby zakázali. Na druhej strane si musíme dávať pozor na to, že dnes už umelá inteligencia dokáže vyrobiť falošné fotografie aj videá, ktoré môžu zásadne ovplyvňovať verejnú mienku. V prístupe k umelej inteligencii preto potrebujeme jasné štandardy a pravidlá, ktoré sú založené na európskych etických normách a demokratických hodnotách.“

Robert Hajšel (S&D, SK) uviedol: „Rozvoj technológií a umelej inteligencie nemôžeme zastaviť, musíme však byť vždy o niekoľko krokov vpred a vyhodnocovať aj obrovské riziká a možný až nekontrolovateľný vplyv, ktorý je s tým spojený. Akékoľvek inovácie musia rešpektovať základné práva našich občanov vrátane osobných údajov a nesmú sa stať nástrojom na manipuláciu správania ľudí a tým aj bezpečnostnou hrozbou. Musíme v prvom rade chrániť ľudí a zároveň zvyšovať ich povedomie o rizikách spojených napríklad s kolujúcimi rôznymi falošnými a zmanipulovanými „deepfake“ videami. Plne preto súhlasím s tým, aby všetok obsah vytvorený umelou inteligenciou bol povinne označený a nedochádzalo k zavádzaniu ľudí, že ide o reálne video.“

Eugen Jurzyca (ECR, SK) uviedol: „Navrhovaná regulácia má viacero rizík: nemáme spoľahlivo vyčíslené náklady tejto regulácie, nepoznáme jej dlhodobé dopady na produktivitu práce ani na investície. Platí, že už teraz investujeme v EÚ do umelej inteligencie výrazne menej než v USA alebo Číne, táto regulácia to môže ešte zhoršiť. Myslím si, že flexibilnejší a menej byrokratický prístup by poskytol viac priestoru na rozvoj umelej inteligencie, ktorá dokáže výrazne zvyšovať produktivitu ekonomiky a byť v prospech spotrebiteľa.“

Jozef Mihál (RE, SK) uviedol: „Umelá inteligencia zohráva v našom každodennom živote čoraz dôležitejšiu úlohu, keďže zlepšuje kvalitu nášho života a ponúka nové príležitosti. Avšak prináša aj niekoľko etických výziev, ktoré považujem za potrebné vyriešiť prostredníctvom regulácie. Napríklad nedávne spory týkajúce sa nového generatívneho systému ChatGPT ukazujú, prečo sú takéto právne predpisy upravujúce vývoj a používanie umelej inteligencie veľmi naliehavé. Celoúnijný regulačný rámec pre umelú inteligenciu, je prelomový a pripravuje pôdu pre prvé horizontálne nariadenie o umelej inteligencii na svete. Systémy umelej inteligencie musia rešpektovať základné práva a demokratické hodnoty EÚ, poskytnúť právnu istotu, pokiaľ ide o inovácie a investície, a uľahčiť rozvoj jednotného trhu pre zákonnú a bezpečnú umelú inteligenciu.“

Peter Pollák (EPP, SK) uviedol: „Som rád, že som súčasťou Európskeho parlamentu, ktorý ako prvý na svete nastavuje mantinely pre používanie umelej inteligencie. Je pravdou, že nám umelá inteligencia zľahčuje život, ale taktiež môže byť hrozbou. Už teraz je zrejmé, že prijaté pravidlá nebudú postačujúce, ale sú prvým krokom k jej regulácii.“

Ivan Štefanec (EPP, SK) uviedol: „Prvé pravidlá pre umelú inteligenciu na svete sa stanú realitou. Umelá inteligencia má podporovať inovácie zodpovednou, bezpečnou a dôveryhodnou cestou, tak aby na prvom mieste bola vždy ochrana občanov Európskej únie a ich základných práv. Vysokorizikové systémy umelej inteligencie budú musieť spĺňať prísne požiadavky. Verím, že sa touto legislatívou inšpirujú aj ostatné krajiny sveta.“

O mam

Odporúčame pozrieť

Jozef Mihál: Podporujem dohodu dosiahnutú v trialógoch vo veci reformy trhov EÚ s plynom a vodíkom

Poslanci schválili reformy pre udržateľnejší a odolnejší trh EÚ s plynom • Nová smernica prispeje …

Consent choices