EuropskeNoviny.sk
Európska komisia predstavila akčný plán štruktúrovanej reakcie s cieľom riešiť riziká a využiť príležitosti pokročilých modelov umelej inteligencie v oblasti kybernetickej bezpečnosti. Nové pokročilé modely umelej inteligencie nanovo definujú kybernetickú bezpečnosť. Umelú inteligenciu možno zneužiť na identifikáciu zraniteľností, automatizáciu útokov a zvýšenie rozsahu a rýchlosti kybernetických incidentov bezprecedentnou rýchlosťou.
Akčný plán, ktorý vychádza z jedinečného právneho rámca EÚ pre umelú inteligenciu a kybernetickú bezpečnosť, spojí členské štáty, priemysel a organizácie na úrovni EÚ s cieľom posilniť kybernetickú bezpečnosť nášho digitálneho prostredia v súvislosti so zraniteľnosťami, ktoré predstavuje pokročilá umelá inteligencia.
Hodnotenie modelov umelej inteligencie
Účinná bezpečnosť si vyžaduje dôkladné pochopenie toho, ako možno nové technológie používať, zneužívať a využívať. Podľa aktu o umelej inteligencii sa pokročilé modely umelej inteligencie musia pred uvedením modelov na trh EÚ dôkladne posúdiť a zmierňujúce opatrenia. S cieľom podporiť domáce odborné znalosti Komisia vyhlási osobitnú výzvu na vytvorenie hodnotiacej kapacity EÚ v oblasti kybernetickej bezpečnosti, ktorá by mala začať fungovať v roku 2027. Táto nová kapacita prispeje k regulačnej funkcii úradu pre umelú inteligenciu posilnením posudzovania spôsobilostí a rizík v oblasti umelej inteligencie tretími stranami na celom svete.
Prístup k pokročilým modelom umelej inteligencie
Európa potrebuje aj jasné a transparentné podmienky prístupu k najmodernejším systémom umelej inteligencie. Komisia bude spolupracovať s Agentúrou EÚ pre kybernetickú bezpečnosť (ENISA) s cieľom vymedziť európsky plán štruktúrovaného prístupu k pokročilým spôsobilostiam umelej inteligencie v oblasti kybernetickej bezpečnosti. Tieto usmernenia podporia príslušné európske verejné a súkromné organizácie pri získavaní prístupu k pokročilým modelom umelej inteligencie.
Testovanie umelej inteligencie pre kybernetickú bezpečnosť
Agentúra ENISA a Spoločné výskumné centrum Komisie vytvoria bezpečnú platformu na testovanie umelej inteligencie z hľadiska kybernetickej bezpečnosti vrátane používania simulovaných prostredí. Prevádzkovatelia v kritických odvetviach, ako sú financie, energetika, zdravotníctvo, doprava a verejná správa, tak získajú know-how o bezpečnom používaní umelej inteligencie.
Posilnenie kybernetickej bezpečnosti EÚ a odstraňovanie zraniteľných miest
EÚ musí chrániť svoju kritickú infraštruktúru pred zraniteľnosťami vyplývajúcimi z možného zneužitia týchto technológií. Ako sa stanovuje v pravidlách EÚ v oblasti kybernetickej bezpečnosti, organizácie by mali zintenzívniť postupy kybernetickej hygieny, opatrenia na riadenie rizík a zásady bezpečnosti už v štádiu návrhu. Organizácie by mali začať využívať už dostupné spôsobilosti umelej inteligencie, a to aj prostredníctvom modelov s otvoreným zdrojovým kódom, s cieľom rýchlejšie identifikovať a opraviť zraniteľnosti, ako aj predchádzať kybernetickým útokom a reagovať na ne.
S cieľom pomôcť organizáciám pri tomto prechode bude agentúra ENISA podporovať a uľahčovať partnerstvá medzi verejnými orgánmi, podnikmi a komunitami s otvoreným zdrojovým kódom v kybernetickom ekosystéme. To bude zahŕňať usmernenia, odporúčania a najlepšie postupy, ako aj kampaň na zabezpečenie kritického softvéru s otvoreným zdrojovým kódom.
Rozšírenie európskych spôsobilostí v oblasti umelej inteligencie pre kybernetickú oblasť
S cieľom stimulovať rozširovanie európskeho trhu Komisia spustí veľkú výzvu EÚ v oblasti umelej inteligencie pre kybernetickú bezpečnosť. Táto súťaž spojí spoločnosti, výskumných pracovníkov a organizácie s cieľom vyvinúť riešenia umelej inteligencie pre kybernetickú bezpečnosť.
EÚ musí naďalej investovať do rozvoja svojich vlastných suverénnych pokročilých spôsobilostí v oblasti umelej inteligencie a využívať infraštruktúru, ktorú poskytujú továrne na umelú inteligenciu a budúce gigatovárne. V tejto súvislosti by pripravovaná európska kapitálová kapacita v oblasti technológií oznámená v balíku technologickej suverenitymohla prilákať súkromné investície na rozšírenie domácich spôsobilostí umelej inteligencie.
Súvislosti
EÚ má právny rámec vhodný na riešenie kybernetickej bezpečnosti vo veku vznikajúcich technológií, ako je umelá inteligencia. V akte o umelej inteligencii sa vyžaduje, aby sa posudzovali a zmierňovali riziká vyplývajúce z modelov umelej inteligencie, zatiaľ čo v kódexe postupov pre umelú inteligenciu na všeobecné účely sa tieto požiadavky bližšie špecifikujú a uľahčuje sa dodržiavanie predpisov zo strany pokročilých poskytovateľov modelov. Tieto ustanovenia sa začnú presadzovať 2. augusta 2026.
V akte o kybernetickej odolnosti, ktorý sa má začať uplatňovať do konca roka 2027, sa stanovuje povinnosť špecificky navrhnutej bezpečnosti hardvérových a softvérových produktov. Cieľom smernice o sieťových a informačných systémoch alebo smernice NIS2 je okrem toho posilniť bezpečnosť kritických odvetví, ako je doprava a energetika, spolu s aktom o digitálnej prevádzkovej odolnosti (DORA) pre finančný sektor. Akt o kybernetickej solidarite posilňuje kapacity v EÚ na odhaľovanie významných a rozsiahlych kybernetických hrozieb a útokov, prípravu a reakciu na ne.
