EuropskeNoviny.sk
Na bezplatný odber spravodajstva z EÚ do vášho emailu sa môžete prihlásiť tu: PRIHLÁSENIE.
Umelá inteligencia: Parlament prijal prelomový zákon
• Umelá inteligencia na všeobecné účely bude musieť spĺňať určité záruky
• Obmedzené používanie systémov biometrickej identifikácie orgánmi presadzovania práva
• Sociálne bodovanie a používanie umelej inteligencie na manipuláciu používateľov a zneužívanie ich zraniteľností bude zakázané
• Spotrebitelia budú mať právo podávať sťažnosti a získať adekvátne vysvetlenia
Nariadenie, ktorého znenie dohodol Parlament v decembri 2023 s členskými štátmi, bolo schválené 523 hlasmi za, pričom 46 bolo proti a 49 sa zdržalo hlasovania.
Cieľom nariadenia je chrániť základné práva, demokraciu, právny štát a environmentálnu udržateľnosť pred vysokorizikovou umelou inteligenciu a zároveň podporovať inovácie a zabezpečiť európske líderstvo v tejto oblasti. V nariadení sa stanovujú povinnosti pre umelú inteligenciu na základe jej potenciálnych rizík a vplyvu.
Zakázané použitie
Podľa nových pravidiel je zakázané používať aplikácie umelej inteligencie, ktoré ohrozujú práva občanov. Týka sa to napríklad systémov biometrickej kategorizácie založených na citlivých charakteristikách. Ďalším príkladom je necielené extrahovanie podôb tváre z internetu alebo videozáznamov z bezpečnostných kamier na tvorbu databáz na rozpoznávanie tvárí. Okrem uvedených praktík bude zakázané aj rozpoznávanie emócií na pracovisku či v škole, sociálne bodovanie či prediktívne vykonávanie policajných funkcií, ak je založené výlučne na profilovaní osoby alebo posudzovaní jej charakteristík. Nebude sa môcť používať ani umelá inteligencia, ktorá manipuluje ľudské správanie alebo zneužíva zraniteľnosti ľudí.
Výnimky na účely presadzovania práva
Používanie systémov biometrickej identifikácie na presadzovanie práva je v zásade zakázané s výnimkou detailne vymenovaných a úzko vymedzených situácií. Biometrická identifikácia v reálnom čase sa môže používať len vtedy, ak sú splnené prísne záruky, napríklad ak je takéto použitie časovo a geograficky obmedzené a bolo k nemu vopred vydané súdne alebo správne povolenie. Môže sa to týkať napríklad cieleného pátrania po nezvestných osobách alebo predchádzania teroristickým útokom. Používanie systémov biometrickej identifikácie po udalosti sa považuje za vysokorizikové a vyžaduje si povolenie súdu v súvislosti s trestným činom.
Povinnosti týkajúce sa vysokorizikových systémov
Jasné povinnosti sa stanovia aj pre iné vysokorizikové systémy umelej inteligencie, najmä vzhľadom na ich potenciálne riziko pre zdravie, bezpečnosť, základné práva, životné prostredie, demokraciu a právny štát. Vysokorizikové systémy umelej inteligencie sa používajú napríklad v kritickej infraštruktúre, vzdelávaní a odbornej príprave, ale aj pri nábore do zamestnania či v kľúčových súkromných a verejných službách, ako sú zdravotníctvo a bankovníctvo. Uplatňujú sa aj v určitých systémoch presadzovania práva, pri riadení migrácie a hraníc, ako aj v súdnictve a v demokratických procesoch, napríklad na ovplyvňovanie volieb. Pri takýchto systémoch bude povinné posúdiť a znížiť riziká, viesť záznamy o používaní, zabezpečiť ich transparentnosť a presnosť, ako aj ľudský dohľad. Občania budú mať právo podávať sťažnosti na systémy umelej inteligencie, ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré ovplyvňujú ich základné práva.
Požiadavky na transparentnosť
Univerzálne systémy AI (GPAI) a modely GPAI, na ktorých sú založené, musia spĺňať určité požiadavky na transparentnosť, vrátane súladu s autorskými právami v EÚ a zverejňovania podrobných súhrnov obsahu používaného na školenia. Na výkonnejšie modely GPAI, ktoré by mohli predstavovať systémové riziko, sa budú vzťahovať dodatočné požiadavky ako vykonávanie hodnotení modelov, posudzovanie a zmierňovanie systémových rizík a nahlasovanie udalostí.
Umelé alebo zmanipulované obrázky, audio nahrávky alebo videá („deepfakes“) musia byť jasne označené.
Opatrenia na podporu inovácií a malých podnikov
Členské štáty budú povinné zabezpečiť, aby mohli malé a stredné podniky a startupy ešte pred uvedením svojich produktov na trh vyvíjať a trénovať inovatívnu umelú inteligenciu v experimentálnych regulačných prostrediach a testovať ju v reálnych podmienkach.
Ďalší postup
Nariadenie ešte musia naposledy skontrolovať právnici lingvisti. Očakáva sa, že s konečnou platnosťou bude prijaté pred koncom volebného obdobia (prostredníctvom postupu tzv. korigenda). Zákon musí formálne schváliť aj Rada.
Účinnosť nadobudne 20 dní po zverejnení v úradnom vestníku a naplno sa začne uplatňovať 24 mesiacov po nadobudnutí účinnosti s výnimkou týchto prípadov: zákaz určitých aplikácií, ktorý sa uplatní šesť mesiacov po nadobudnutí účinnosti; kódex správnej praxe (deväť mesiacov po nadobudnutí účinnosti); pravidlá pre systémy umelej inteligencie na všeobecné účely vrátane ich správy (dvanásť mesiacov po nadobudnutí účinnosti) a povinnosti pre vysokorizikové systémy (36 mesiacov po nadobudnutí účinnosti).
Súvislosti
Zákon o umelej inteligencii priamo reaguje na návrhy občanov z Konferencie o budúcnosti Európy (KoBE), konkrétne na návrh 12(10) o zvyšovaní konkurencieschopnosti EÚ v strategických sektoroch, návrh 33 (5) o bezpečnej a dôveryhodnej spoločnosti, vrátane boja proti dezinformáciám a zaistenia, že ľudia budú mať v konečnom dôsledku kontrolu, návrh 35 o podpore digitálnych inovácií (3) pri zabezpečení ľudského dohľadu a (8) dôveryhodnom a zodpovednom používaní umelej inteligencie, stanovením záruk a zabezpečením transparentnosti a návrh 37 (3) o používaní umelej inteligencie a digitálnych nástrojov na zlepšenie prístupu občanov k informáciám vrátane osôb so zdravotným postihnutím.
