Bill Gates výrazne pritvrdil vo varovaniach pred umelou inteligenciou. Spoluzakladateľ Microsoftu tvrdí, že dnešné AI nástroje sú už natoľko výkonné, že ich zneužitie ľuďmi so zlým úmyslom by mohlo viesť ku katastrofe s obrovským počtom obetí.
Nejde však o jeho predpoveď, že miliarda ľudí skutočne zomrie. Gates upozorňuje na možný krajný scenár a žiada prísnejší dohľad štátov nad najvýkonnejšími systémami umelej inteligencie.
Gates hovorí o bezprecedentnej sile AI
Gates v rozhovore pre NBC News uviedol, že umelá inteligencia je podľa neho dostatočne výkonná na to, aby mohla spustiť udalosti vedúce až k miliarde úmrtí.
Najväčšie nebezpečenstvo podľa neho nepredstavuje samotná technológia, ale jej spojenie s ľuďmi, ktorí ju chcú vedome zneužiť.
Riziká môžu súvisieť napríklad s kybernetickými útokmi, biologickými hrozbami, manipuláciou informácií alebo útokmi na kritickú infraštruktúru.
Otázkou bezpečnosti AI sa zaoberajú aj štáty. Aktualizovane.sk nedávno informovalo, že Slovensko pripravuje vlastný systém dohľadu nad umelou inteligenciou.
Samoregulácia technologických spoločností podľa Gatesa nestačí
Gates zároveň odmieta predstavu, že by si pravidlá mohli určovať iba samotné technologické spoločnosti.
Podľa jeho názoru sa do kontroly AI musia aktívnejšie zapojiť vlády, zákonodarcovia aj bezpečnostné orgány. Pravidlá a monitorovanie rizík by podľa neho nemali byť dobrovoľné.
Debata o tom, kam až má regulácia zájsť, pritom zostáva otvorená. Aktualizovane.sk sa tejto téme venovalo aj pri postoji amerického prezidenta Donalda Trumpa, ktorý odmieta rozsiahle nové obmedzenia pre vývoj umelej inteligencie.
Gates zároveň do AI investuje
Jeho varovanie neznamená, že umelú inteligenciu považuje iba za hrozbu.
Gates Foundation práve v septembri oznámila investície vo výške jednej miliardy dolárov do projektov, ktoré majú pomocou AI zlepšovať zdravotníctvo, vzdelávanie a poľnohospodárstvo.
Gates teda presadzuje dvojitý prístup – pokračovať vo vývoji technológie a využívať jej prínosy, ale zároveň vytvoriť pevnejšie bezpečnostné pravidlá.
Podobný spor dnes prebieha naprieč technologickým sektorom. Časť výskumníkov upozorňuje na možné katastrofické scenáre, iní odborníci zdôrazňujú, že ich pravdepodobnosť sa dnes nedá spoľahlivo určiť.
AI sa dostáva pod čoraz väčší dohľad
Regulácia umelej inteligencie sa medzitým postupne rozširuje po celom svete.
Štáty riešia označovanie obsahu vytvoreného AI, deepfake materiály, kybernetickú bezpečnosť aj zodpovednosť spoločností vyvíjajúcich najvýkonnejšie modely.
Gatesovo varovanie preto prichádza v čase, keď sa diskusia presúva od otázky, čo všetko dokáže AI, k otázke, ako zabrániť jej zneužitiu.
ČÍTAJTE AJ
Zdroj: Info.sk
