Európska únia otvorila nový front v regulácii digitálnych platforiem. Európska komisia v pondelok oznámila začatie ďalšieho vyšetrovania voči sociálnej sieti X, ktorú vlastní miliardár Elon Musk. Dôvodom je správanie integrovaného chatbota Grok, založeného na umelej inteligencii, ktorý mal v priebehu niekoľkých dní generovať milióny sexualizovaných obrázkov žien a detí.
Vyšetrovanie sa zameriava na to, či spoločnosť X dodržala povinnosti vyplývajúce z nariadenia o digitálnych službách (DSA), ktoré od veľkých online platforiem vyžaduje aktívne posudzovanie a zmierňovanie systémových rizík. Podľa predbežných odhadov mohol Grok počas približne 11 dní vytvoriť až tri milióny problematických vizuálov, kým firma v polovici januára pristúpila k technickým úpravám.
Nezákonný obsah a globálne pobúrenie
Obrázky generované umelou inteligenciou vyvolali ostré reakcie nielen v Európe, ale aj mimo nej. Európska komisia už skôr upozornila, že ide o nezákonný a spoločensky neakceptovateľný obsah, ktorý môže v niektorých prípadoch spadať až pod materiály súvisiace so sexuálnym zneužívaním detí. Predsedníčka komisie Ursula von der Leyen zdôraznila, že Únia nebude tolerovať „digitálne vyzliekanie žien a detí“ a označila spôsobenú ujmu za vážnu a dlhodobú.
Prípad otvoril širšiu diskusiu o tom, ako rýchlo sa technológie umelej inteligencie dokážu vymknúť spod kontroly, ak nie sú dostatočne regulované. Kritici poukazujú na to, že platformy profitujú z rýchleho nasadzovania AI nástrojov, no zodpovednosť za ich dôsledky často riešia až dodatočne.
Povinnosti podľa DSA
Nariadenie o digitálnych službách, ktoré vstúpilo do platnosti s cieľom posilniť ochranu používateľov v online priestore, ukladá veľkým platformám povinnosť predchádzať šíreniu nezákonného obsahu a systematicky hodnotiť riziká, ktoré ich služby predstavujú. Európska komisia teraz skúma, či spoločnosť X tieto povinnosti splnila pri integrácii Groku a či prijaté opatrenia neprišli neskoro.
Vyšetrovanie zároveň nadväzuje na už prebiehajúci prípad z roku 2023, ktorý sa týka transparentnosti algoritmov. Brusel avizoval, že rozšíri jeho rozsah aj o posúdenie rozhodnutia siete X prejsť na algoritmus vo väčšej miere založený práve na Grokovi.
Opakované porušenia a sankcie
Začiatkom decembra udelila Európska komisia sieti X pokutu vo výške 120 miliónov eur za porušenie pravidiel transparentnosti. Išlo o výsledok dvojročného vyšetrovania, ktoré odhalilo nedostatočné informovanie o fungovaní algoritmov a slabú kontrolu nad šírením škodlivého obsahu.
Nové vyšetrovanie môže viesť k ďalším sankciám, ktoré by už neboli len finančné, ale mohli by zahŕňať aj povinné zmeny fungovania platformy na európskom trhu.
Test regulácie umelej inteligencie
Prípad siete X sa čoraz viac vníma ako test schopnosti EÚ regulovať umelú inteligenciu v praxi, nielen na papieri. Kým technologické firmy varujú pred obmedzovaním inovácií, európski regulátori zdôrazňujú, že ochrana ľudskej dôstojnosti, detí a základných práv musí mať prednosť.
Výsledok vyšetrovania tak môže mať ďalekosiahle dôsledky nielen pre spoločnosť X, ale aj pre celý digitálny ekosystém v Európe.
