Trump necháva AI na technologické firmy. Nová dohoda nebude právne záväzná
Americký prezident Donald Trump sa po rokovaní s predstaviteľmi najväčších technologických a AI spoločností postavil za samoreguláciu umelej inteligencie. Firmy podpísali dobrovoľnú dohodu o bezpečnostných kontrolách, nejde však o právne záväzný predpis. Trump ju označil za „morálne záväznú“.
Technologickí giganti majú kontrolovať vlastnú AI
Dohoda vznikla po stretnutí Trumpa s predstaviteľmi spoločností ako OpenAI, Google, Meta, Anthropic, xAI či Nvidia v Bielom dome.
Dokument s názvom White House Accord on Super Intelligence: A Joint Commitment on Frontier Responsibilities stanovuje princípy, podľa ktorých majú firmy samy zabezpečovať bezpečnosť svojich najpokročilejších systémov.
Nejde však o zákon ani nariadenie, ktoré by technologické spoločnosti právne nútilo dodržiavať nové povinnosti. Dohoda je dobrovoľná.
Trump po stretnutí povedal, že technologický sektor by mal podľa neho AI vo veľkej miere kontrolovať sám.
Dohoda počíta so štyrmi vrstvami kontroly
Podpísaný dokument počíta so systémom viacerých bezpečnostných mechanizmov.
Firmy sa majú zamerať na interné kontroly počas vývoja a používania modelov. Ďalšia úroveň má spočívať v internom tíme, ktorý bude dohliadať na fungovanie týchto mechanizmov a riešiť prípadné problémy.
Súčasťou dohody sú aj nezávislé externé audity. Výsledky kontrol majú napokon posudzovať aj výbory predstavenstiev jednotlivých spoločností.
Dokument sa venuje aj oblastiam, ako sú kybernetická bezpečnosť, biologické a chemické riziká či situácie, keď by AI mohla neoprávnene pristupovať k technickým systémom.
Právne pravidlá zatiaľ zostávajú otvorené
Dôležitá je formulácia na konci dohody. Dokument pripúšťa, že v budúcnosti môže byť vhodné tieto opatrenia zakotviť v zákonoch alebo reguláciách.
V súčasnosti však takáto právna povinnosť z dohody nevyplýva.
Trump preto volí odlišný prístup od predstavy, že by nové bezpečnostné štandardy pre najvýkonnejšiu AI okamžite stanovila vláda zákonom.
Téma regulácie umelej inteligencie pritom nie je v USA nová. Trump už pred aktuálnou dohodou odmietal rozsiahle nové obmedzenia pre vývoj AI. Aktualizovane.sk sa jeho postoju venovalo aj nedávno. Trump odmieta reguláciu AI a hovorí o nových mantineloch
Trump zároveň hovorí o „superinteligencii“
Stretnutie v Bielom dome prinieslo aj ďalšiu zmenu v terminológii americkej administratívy.
Trump podpísal výkonné nariadenie, podľa ktorého má federálna vláda v oficiálnej komunikácii používať označenie „Super Intelligence“ namiesto zaužívaného termínu umelá inteligencia, respektíve AI.
Ide o terminologickú zmenu v rámci federálnej vlády. Samotné premenovanie však nemení technické vlastnosti ani riziká systémov umelej inteligencie.
O bezpečnosť AI sa vedie spor aj medzi samotnými firmami
Prístup americkej administratívy prichádza v čase rastúcich diskusií o tom, ako má byť vývoj najpokročilejších modelov kontrolovaný.
Niektorí predstavitelia technologického sektora upozorňujú na možné bezpečnostné riziká a požadujú prísnejšie mechanizmy. Iní zdôrazňujú potrebu rýchleho technologického rozvoja a obávajú sa, že príliš tvrdá regulácia by mohla oslabiť konkurencieschopnosť USA.
Podobná otázka sa rieši aj v Európe. Aktualizovane.sk informovalo o tom, že Slovensko pripravuje systém štátneho dohľadu nad umelou inteligenciou v rámci európskych pravidiel. Slovensko pripravuje vlastný dohľad nad umelou inteligenciou
Rozdiel medzi americkým a európskym prístupom tak zostáva výrazný. Zatiaľ čo Washington v aktuálnej dohode staví na dobrovoľných záväzkoch technologických spoločností, európsky rámec počíta aj s verejným dohľadom a záväznými pravidlami.
Otázka, či bude samoregulácia dostatočná, tak zostáva otvorená. Vývoj najpokročilejších AI systémov bude zároveň úzko súvisieť s technologickým súperením Spojených štátov a Číny. USA a Čína vstupujú do novej éry technologického súperenia
ČÍTAJTE AJ
EÚ zmierňuje pravidlá pre AI: technologickí giganti získavajú ústupky
