Komisia vyšetruje odporúčacie systémy spoločností Grok a X podľa aktu o digitálnych službách

Európska komisia začala nové formálne vyšetrovanie proti X podľa aktu o digitálnych službách. Komisia zároveň rozšírila svoje prebiehajúce vyšetrovanie, ktoré sa začalo v decembri 2023, týkajúce sa dodržiavania povinností spoločnosti X v oblasti riadenia rizík odporúčacích systémov.

V rámci nového prešetrovania sa posúdi, či spoločnosť riadne posúdila a zmiernila riziká spojené so zavádzaním funkcií spoločnosti Grok do X v EÚ. Patria sem riziká súvisiace so šírením nezákonného obsahu v EÚ, ako sú zmanipulované sexuálne explicitné obrázky vrátane obsahu, ktorý môže predstavovať materiál obsahujúci sexuálne zneužívanie detí.

Zdá sa, že tieto riziká sa naplnili a vystavili občanov v EÚ vážnej ujme. Vzhľadom na uvedené skutočnosti Komisia ďalej prešetrí, či spoločnosť X dodržiava svoje povinnosti vyplývajúce z aktu o digitálnych službách:

• Dôsledne posudzovať a zmierňovať systémové riziká vrátane šírenia nezákonného obsahu, negatívnych účinkov v súvislosti s rodovo motivovaným násilím a závažných negatívnych dôsledkov na fyzickú a duševnú pohodu vyplývajúcich zo zavedenia funkcií spoločnosti Grok do jej platformy.
• Vykonať a zaslať Komisii správu o posúdení rizika ad hoc pre funkcie Grok v službe X s kritickým vplyvom na rizikový profil X pred ich zavedením.

Komisia samostatne rozšírila svoje prebiehajúce formálne konanie začaté proti spoločnosti X v decembri 2023 s cieľom zistiť, či spoločnosť X riadne posúdila a zmiernila všetky systémové riziká, ako sú vymedzené v akte o digitálnych službách, súvisiace s jej odporúčacími systémami vrátane vplyvu jej nedávno oznámeného prechodu na odporúčací systém založený na Groku. Ak by sa tieto porušenia preukázali, predstavovali by porušenie článku 34 ods. 1 a 2, článku 35 ods. 1 a článku 42 ods. 2 aktu o digitálnych službách. Komisia teraz prioritne vykoná hĺbkové vyšetrovanie. Začatie formálneho konania nemá vplyv na jeho výsledok.

Pri príprave tohto prešetrovania Komisia úzko spolupracovala s írskym koordinátorom digitálnych služieb Coimisiúnom na Meánom. Okrem toho bude Coimisiún na Meán pridružený k tomuto vyšetrovaniu podľa článku 66 ods. 3 ako národný koordinátor digitálnych služieb v krajine usadenia v EÚ.

Ďalšie kroky

Komisia bude pokračovať v zhromažďovaní dôkazov, napríklad zasielaním dodatočných žiadostí o informácie, vykonávaním pohovorov alebo inšpekcií, a môže uložiť predbežné opatrenia, ak nedôjde k zmysluplným úpravám útvaru X.

Začatie formálneho konania splnomocňuje Komisiu, aby podnikla ďalšie kroky na presadzovanie práva, ako je prijatie rozhodnutia o neplnení povinností. Komisia je tiež splnomocnená prijať akýkoľvek záväzok prijatý spoločnosťou X na nápravu záležitostí, ktoré sú predmetom konania. Začatie formálneho konania oslobodzuje koordinátorov digitálnych služieb alebo akýkoľvek iný príslušný orgán členských štátov EÚ od ich právomocí vykonávať dohľad nad aktom o digitálnych službách a presadzovať ho v súvislosti s podozrením z porušenia.

Súvislosti

Grok je nástroj umelej inteligencie, ktorý vyvinul poskytovateľ X. Od roku 2024 spoločnosť X nasadila Grok do svojej platformy rôznymi spôsobmi. Tieto nasadenia napríklad umožňujú používateľom generovať text a obrázky a poskytovať kontextové informácie pre príspevky používateľov. Ako určená veľmi veľká online platforma (VLOP) podľa aktu o digitálnych službách má spoločnosť X povinnosť posudzovať a zmierňovať všetky potenciálne systémové riziká súvisiace s jej službami v EÚ. Medzi tieto riziká patrí šírenie nezákonného obsahu a potenciálne ohrozenie základných práv vrátane neplnoletých osôb, ktoré predstavuje jeho platforma a funkcie.

Týmto vyšetrovaním sa dopĺňa a rozširuje vyšetrovanie, ktoré sa začalo 18. decembra 2023 a ktoré sa zameriava na fungovanie mechanizmu oznamovania a prijímania opatrení spoločnosti X, jeho zmierňujúce opatrenia proti nezákonnému obsahu, ako je teroristický materiál, v EÚ a riziká spojené s jeho odporúčacími systémami.

Tieto konania sa týkali aj používania klamlivej koncepcie, nedostatočnej transparentnosti reklamy a nedostatočného prístupu výskumných pracovníkov k údajom, v súvislosti s ktorými Komisia 5. decembra 2025 prijala rozhodnutie o nesúlade, v ktorom uložila pokutu vo výške X 120 miliónov EUR. Komisia 19. septembra zaslala X žiadosť o informácie týkajúce sa spoločnosti Grok vrátane otázok týkajúcich sa antisemitského obsahu vytvoreného spoločnosťou @grok v polovici roka 2025.

Pomoc a podpora sú na vnútroštátnej úrovni k dispozícii jednotlivcom, ktorí boli negatívne ovplyvnení obrázkami vytvorenými umelou inteligenciou vrátane materiálu obsahujúceho sexuálne zneužívanie detí alebo intímnych obrázkov bez súhlasu. Podľa aktu o digitálnych službách majú občania právo podať sťažnosť týkajúcu sa porušenia aktu o digitálnych službách koordinátorovi digitálnych služieb svojho členského štátu.