Umelá inteligencia: Ako sa popasovať s rizikami, ktoré so sebou prináša?

Čo je to umelá inteligencia a prečo môže byť nebezpečná?

Učiace sa algoritmy dokážu spracovať obrovské množstvo informácií v krátkom čase, čím niekoľkonásobne prevyšujú schopnosti ľudského mozgu. Aplikácie založené na umelej inteligencii sa preto dnes používajú v čoraz viac oblastiach. Nechýbajú vo finančníctve, zdravotníctve, vzdelávaní alebo právnej oblasti. Spoliehať sa len na nich však so sebou prináša isté riziká, najmä vtedy ak necháme algoritmy uskutočňovať rozhodnutia bez toho, aby na nich dohliadal človek z mäsa a kostí.

Algoritmy sa učia na základe opakovaných vzorcov, ktoré spozorujú v množstve údajov, ktorými ich kŕmime. Problém nastáva vtedy, ak tieto vstupné údaje odzrkadľujú predsudky panujúce v našej spoločnosti.

Keď umelá inteligencia rozhoduje o vás

Umelá inteligencia sa čoraz viac využíva v takzvaných algoritmických rozhodovacích systémoch (algorithmic decision systems – ADS). Dopady týchto rozhodnutí môžu byť niekedy veľmi vážne, napríklad vtedy, ak počítačový program rozhoduje, či máte nárok na pôžičku v banke alebo liečbu, či vás majú prijať do práce, o ktorú sa uchádzate, alebo zavrieť či nezavrieť do väzenia. Ak dáme algoritmom nesprávne údaje, môžu sa naučiť byť „zaujaté“ podobne ako my a kopírovať tak naše predsudky. Existujú napríklad prípady, keď programy na filtrovanie uchádzačov o prácu diskriminovali ženy. Podobne ako to robia aj ľudia.

Ako chrániť spotrebiteľov v dobe umelej inteligencie?

Rozvoj umelej inteligencia a automatického rozhodovania so sebou prináša aj otázku, ako nestratiť dôveru spotrebiteľov. Keď zákazníci prichádzajú do kontaktu s umelou inteligenciou, mali by byť o tom jasne informovaní a mali by byť oboznámení s tým, ako funguje.

Ako to vníma Európsky parlament?

Parlamentný výbor pre ochranu spotrebiteľa prijal koncom januára uznesenie, kde vyzýva komisiu, aby sa pozrela na to, či EÚ potrebuje nové špeciálne pravidlá na ochranu spotrebiteľov v kontexte umelej inteligencie a automatického počítačového rozhodovania.

Ďalšie kroky

O uznesení sa bude hlasovať tento týždeň počas plenárneho zasadnutia. Po hlasovaní bude dokument postúpený Rade ministrov a Európskej komisii. Tá už oznámila, že v druhej polovici februára zverejní návrh na to, ako by sa mala k umelej inteligencii stavať EÚ.