Uber dostal v Európe rekordnú pokutu 825 miliónov eur. Algoritmy mali vodičom blokovať účty bez riadnej kontroly
Uber čelí jednej z najvyšších pokút v histórii európskej ochrany osobných údajov. Holandský úrad na ochranu údajov uložil spoločnosti sankciu vo výške 825 miliónov eur za spôsob, akým automatizované systémy rozhodovali o blokovaní účtov vodičov. Regulátor tvrdí, že niektoré rozhodnutia mali zásadný vplyv na ich príjem, no prebiehali bez dostatočného ľudského dohľadu a bez riadneho vysvetlenia. Uber rozhodnutie odmieta a chystá sa odvolať.
Ide o mimoriadne dôležitý prípad, ktorý ďaleko presahuje samotnú taxislužbu.
V centre sporu stojí otázka, či môže algoritmus bez reálneho zásahu človeka rozhodnúť o tom, že vodič prakticky zo dňa na deň stratí možnosť pracovať a zarábať.
Holandský dozorný orgán tvrdí, že v prípade Uberu boli európske pravidlá ochrany osobných údajov porušené.
Pokuta dosiahla 825 miliónov eur
Holandský úrad na ochranu osobných údajov uložil Uberu pokutu vo výške presne 825 miliónov eur.
Ide o druhú najvyššiu sankciu, aká bola doteraz uložená na základe európskeho nariadenia GDPR.
Vyššia bola iba pokuta vo výške 1,2 miliardy eur, ktorú dostala spoločnosť Meta v roku 2023.
Rozhodnutie proti Uberu sa týka postupov používaných pri európskych vodičoch v období približne rokov 2018 až 2022, pričom jadro vyšetrovania sa týkalo automatizovaných zásahov do ich účtov.
Algoritmus mohol vodiča odstrihnúť od zárobku
Uber využíval automatické systémy na sledovanie správania vodičov a vyhodnocovanie možného porušovania pravidiel platformy.
Systém mohol napríklad identifikovať podozrenie, že vodič:
- zbytočne predlžoval trasu s cieľom zvýšiť cenu jazdy,
- prijal zákazku bez úmyslu ju dokončiť,
- porušoval pravidlá platformy,
- alebo mal príliš nízke hodnotenia od zákazníkov.
Následkom mohla byť dočasná alebo v niektorých prípadoch podľa regulátora aj trvalá deaktivácia účtu.
Pre vodiča to pritom nie je obyčajné technické obmedzenie.
Zablokovaný účet môže znamenať okamžitú stratu možnosti zarábať prostredníctvom platformy.
Práve preto európske pravidlá považujú takéto rozhodnutia za mimoriadne citlivé.
GDPR dáva ľuďom právo na ľudský zásah
Európske pravidlá ochrany osobných údajov stanovujú, že človek má za určitých podmienok právo nebyť predmetom rozhodnutia založeného výlučne na automatizovanom spracovaní, ak má takéto rozhodnutie závažné právne alebo obdobne významné následky.
Jednoducho povedané:
o závažnom zásahu do života človeka by nemal rozhodovať iba algoritmus bez možnosti reálnej ľudskej kontroly.
Dotknutá osoba zároveň musí dostať dostatočné informácie o automatizovanom rozhodovaní a mať možnosť výsledok spochybniť.
Holandský regulátor dospel k záveru, že Uber tieto povinnosti dostatočne nesplnil.
Prípad ukazuje, že európske inštitúcie sú pripravené čoraz dôslednejšie kontrolovať fungovanie najväčších technologických platforiem. EÚ nedávno zasiahla aj proti spoločnosti Meta a nariadila jej sprístupniť WhatsApp konkurenčným poskytovateľom umelej inteligencie.
Spor začali vodiči vo Francúzsku
Vyšetrovanie nevzniklo náhodnou kontrolou.
Na postup Uberu upozornili vodiči vo Francúzsku, ktorí sa sťažovali na spôsob, akým platforma spracovávala ich osobné údaje a prijímala rozhodnutia o ich účtoch.
Prípad nakoniec riešil holandský úrad.
Dôvodom je, že európske sídlo Uberu sa nachádza v Holandsku, a práve tamojší dozorný orgán je preto pri cezhraničných prípadoch jedným z hlavných regulátorov spoločnosti.
Uber odmieta, že vodičov trvalo vyhadzoval iba algoritmus
Spoločnosť sa proti rozhodnutiu ostro ohradila.
Uber tvrdí, že regulátor nesprávne vyhodnotil spôsob fungovania jeho systémov.
Podľa firmy neboli účty vodičov trvalo deaktivované výlučne automatizovaným systémom bez ľudského posúdenia.
Spoločnosť zároveň argumentuje tým, že väčšina automatických pozastavení bola iba dočasná.
Uber tvrdí, že jeho súčasné pravidlá už zahŕňajú ľudské preverenie a vodiči môžu rozhodnutia platformy napadnúť.
Firma preto označuje pokutu 825 miliónov eur za neprimeranú a oznámila, že sa proti nej odvolá.
To znamená, že sankcia ešte môže byť predmetom dlhšieho súdneho konania a jej konečná výška sa môže zmeniť.
Uber upozorňuje na počet dotknutých vodičov
Spoločnosť poukazuje aj na rozsah prípadu.
Ako jeden z argumentov uvádza, že napríklad v roku 2021 bolo v celej Európe v súvislosti s nízkym hodnotením deaktivovaných iba 126 vodičov.
Regulátor však nehodnotil iba samotný počet ľudí.
Rozhodujúci bol aj charakter porušenia a skutočnosť, že automatizované rozhodnutie mohlo človeku výrazne zasiahnuť do jeho pracovného života.
Práve algoritmické rozhodovanie sa stáva jednou z najvýznamnejších tém digitálnej regulácie.
Technologické systémy dnes rozhodujú o pôžičkách, pracovných ponukách, poistnom, zobrazovaní obsahu aj o tom, či používateľovi zostane prístup k digitálnej platforme.
Nie je to prvá obrovská pokuta pre Uber
Holandský regulátor už Uber pokutoval aj v minulosti.
V roku 2024 spoločnosti uložil sankciu 290 miliónov eur za nedostatočne chránené prenášanie osobných údajov európskych vodičov do Spojených štátov.
Riešil pritom údaje ako:
- informácie o účtoch,
- vodičské a taxislužobné dokumenty,
- polohové údaje,
- fotografie,
- platobné informácie,
- identifikačné dokumenty,
- a v niektorých prípadoch aj citlivejšie osobné údaje.
Uber napadol aj toto rozhodnutie.
Najnovšia pokuta teda výrazne zvyšuje tlak európskych regulátorov na spoločnosť.
Európa pritvrdzuje voči technologickým gigantom
Uber nie je jedinou americkou technologickou firmou, ktorá v Európe čelí vysokým sankciám.
Meta, Google, Apple či Amazon boli v posledných rokoch predmetom vyšetrovaní v oblastiach ochrany osobných údajov, hospodárskej súťaže alebo pravidiel digitálneho trhu.
Najnovší prípad Uberu však prináša ešte jeden rozmer.
Nie je to iba spor o to, kde sa ukladajú osobné údaje.
Ide o otázku, čo smie algoritmus urobiť s človekom na základe údajov, ktoré o ňom firma zhromažďuje.
Vodiči Uberu sú od aplikácie existenčne závislí
Pre človeka, ktorý používa Uber iba ako zákazník, môže deaktivácia účtu pôsobiť ako malý problém.
Pre profesionálneho vodiča je situácia úplne iná.
Aplikácia predstavuje jeho prístup k zákazníkom a tým aj k príjmu.
Automatické zablokovanie účtu preto môže mať podobný efekt ako okamžité znemožnenie výkonu práce.
Aj preto sa európske pravidlá snažia zabezpečiť, aby človek:
- vedel, prečo systém rozhodol v jeho neprospech,
- mohol rozhodnutie napadnúť,
- dostal možnosť ľudského preskúmania,
- a nebol odkázaný iba na komunikáciu s algoritmom.
Platformy ako Uber či Bolt sú pritom už bežnou súčasťou každodennej dopravy aj cestovania. Pri používaní taxíkov alebo aplikácií na dovolenke je preto dobré poznať základné pravidlá bezpečnosti ešte pred nástupom do vozidla.
Pokuta je druhá najvyššia v histórii GDPR
Rozmer sankcie najlepšie ukazuje jednoduché porovnanie.
825 miliónov eur radí prípad medzi najväčšie zásahy európskych úradov proti technologickej spoločnosti od zavedenia GDPR.
Pred ním zostáva už iba historická sankcia pre Meta vo výške 1,2 miliardy eur.
Výška pokuty zároveň nebola určená podľa toho, koľko peňazí jednotliví vodiči stratili.
Pri veľkých spoločnostiach môže GDPR umožniť sankcie odvodené aj od celosvetového obratu firmy, aby pokuta nebola pre nadnárodný podnik iba zanedbateľným nákladom.
Čo to znamená v praxi
Prípad Uberu môže mať dôsledky ďaleko za hranicami taxislužieb.
Ak rozhodnutie regulátora obstojí, vyšle európskym firmám jasný signál:
algoritmus nemôže bez dostatočných záruk prijímať rozhodnutia, ktoré človeku zásadne ovplyvnia prácu, príjem alebo ďalšie dôležité oblasti života.
Firmy využívajúce automatizované systémy budú musieť čoraz dôslednejšie zabezpečovať ľudskú kontrolu, transparentnosť a možnosť odvolania.
Pre používateľov je zároveň dôležité vedieť, že ochrana osobných údajov už dávno nie je iba otázkou súhlasu s cookies.
GDPR sa môže týkať aj toho, ako algoritmus vyhodnotí správanie konkrétneho človeka a aké rozhodnutie na základe toho urobí.
Čo vieme a čo zatiaľ nie
Potvrdené je:
- holandský úrad uložil Uberu pokutu 825 miliónov eur,
- prípad sa týka automatizovaného rozhodovania o účtoch vodičov,
- regulátor vytkol Uberu nedostatočný ľudský dohľad a informovanie vodičov,
- vyšetrovanie vzniklo na základe sťažností európskych vodičov,
- rozhodnutie sa týka postupov používaných v minulých rokoch,
- sankcia je druhou najvyššou pokutou uloženou podľa GDPR,
- Uber s rozhodnutím nesúhlasí a chce sa odvolať.
Zatiaľ definitívne rozhodnuté nie je:
- či pokuta 825 miliónov eur zostane po odvolaní v plnej výške,
- ako dlho bude prípad pokračovať pred súdmi,
- či vodiči získajú samostatné finančné odškodnenie,
- aký širší vplyv bude mať rozhodnutie na automatizované systémy ďalších digitálnych platforiem.
