V EU je to už obvyklé: jakmile něco neprosadí, tak to zkusí zavést znovu. Buď to, co u většiny států neprošlo, pouze upraví nebo počká a přijde s tím později, jen v přejmenované podobě (např. migrační kvóty přejmenované na „migrační pakt“).
Kontrola chatu je další oblastí, kde EU nedávno neuspěla. Nicméně i přesto se „chat control“ pokouší prosadit znovu, ale již v poněkud upravené podobě.
Jak se však ukazuje, tak úpravy jsou jen „kosmetické,“ protože v podstatě se nemění nic na tom, že půjde o nástroj kontroly a šmírování.
V EU se 19. listopadu – tedy dnes – chystá hlasování o jednom z nejvýznamnějších návrhů týkajících se sledování a kontroly.
Legislativa, koncipovaná jako opatření na ochranu dětí online, vyvolala ostrou kritiku ze strany bloku vedoucích evropských akademiků, kteří tvrdí, že návrh, i ve své revidované podobě, jde nebezpečnou cestou.
Pod rouškou dobrovolnictví EU vybízí k masovému sledování a činí tak s malými důkazy o tom, že by se zlepšila bezpečnost.
Tento nejnovější návrh takzvaného zákona o „ kontrole chatu “ již byl oproti své původní podobě změkčen. Rada Evropské unie, která čelila rostoucímu odporu veřejnosti, zrušila ustanovení o povinném skenování šifrované komunikace v zařízeních.
Pro výzkumníky, kteří legislativu bedlivě sledují, je však revidovaný návrh vším, jen ne ústupkem.
„ Návrh znovu zavádí možnost analyzovat obsah nad rámec obrázků a URL adres – včetně textu a videa – a detekovat nově generovaný materiál sexuálního zneužívání dětí (CSAM),“ uvádí se v otevřeném dopise, který podepsalo 18 významných akademiků z institucí, jako jsou ETH Zurich, KU Leuven a Max Planck Institute.
Kopii dopisu najdete zde .
Argument v podstatě spočívá v tom, že nejnovější verze Rady riziko neodstraňuje. Pouze jej přejmenovává.
Kritika se zaměřuje na spoléhání se na umělou inteligenci k analýze soukromých zpráv a vyhledávání nelegálního obsahu. Zatímco tvůrci politik vychvalují umělou inteligenci jako technické řešení emocionálně nabitého problému, vědci tvrdí, že technologie na takový úkol jednoduše není připravena.
„Současná technologie umělé inteligence zdaleka není dostatečně přesná, aby tyto úkoly zvládla se zárukou potřebné úrovně přesnosti,“ varují odborníci.
Falešně pozitivní výsledky, říkají, nejsou teoretické. Jsou téměř jisté. Nástroje založené na umělé inteligenci se potýkají s nuancemi a nejednoznačností, zejména v oblastech, jako je detekce obtěžování na základě textu, kde je záměr často skryt pod vrstvami kontextu.
„Falešně pozitivní výsledky se zdají být nevyhnutelné, a to jak kvůli inherentním omezením technologií umělé inteligence, tak i proto, že chování, na které se regulace zaměřuje, je nejednoznačné a hluboce závislé na kontextu.“
Nejde jen o drobné chyby. Nahlašování neškodných konverzací, jako jsou chaty mezi teenagery nebo s důvěryhodnými dospělými, by mohlo vést k vyšetřování ze strany orgánů činných v trestním řízení nebo k zákazu platforem.
Ve velkém měřítku se to stává více než jen rizikem pro soukromí. Stává se to systémovým selháním.
„Rozšíření rozsahu cílených formátů dále zvýší velmi vysoký počet falešně pozitivních výsledků, což povede k nepřijatelnému zvýšení nákladů na lidskou práci pro dodatečné ověřování a související porušení soukromí.“
Kritici argumentují, že takové systémy by mohly zahltit vyšetřovatele šumem, což by ve skutečnosti snižovalo jejich schopnost odhalovat skutečné případy zneužívání.
„Rozšíření rozsahu detekce pouze otevírá dveře k odposlechu a prozkoumávání větší části konverzací, bez jakékoli záruky lepší ochrany a s vysokým rizikem snížení celkové ochrany zahlcením vyšetřovatelů falešnými obviněními, která jim brání ve vyšetřování skutečných případů.“
Kromě skenování zpráv návrh nařizuje ověřování věku pro uživatele šifrovaných platforem pro zasílání zpráv a obchodů s aplikacemi, které představují „vysoké riziko“ pro děti. Je to zdánlivě rozumné opatření, které je však podle technologických expertů plné problémů.
„Posouzení věku nelze s využitím současných technologií provádět způsobem, který chrání soukromí, a to z důvodu závislosti na biometrických, behaviorálních nebo kontextových informacích (např. historii prohlížení),“ uvádí se v dopise a poukazuje se na rozpory mezi navrhovaným textem a standardy EU v oblasti ochrany soukromí.
Existují také obavy ohledně zaujatosti a vyloučení. Ukázalo se, že nástroje pro detekci věku založené na umělé inteligenci způsobují vyšší míru chyb u některých skupin a často se spoléhají na metody profilování, které podkopávají základní práva.
„Techniky odvozování věku založené na umělé inteligenci jsou známé svou vysokou mírou chyb a zkreslením pro určité menšiny.“
I tradičnější metody ověřování vzbuzují varovné signály. Požadavek nahrání cestovního pasu nebo průkazu totožnosti od uživatelů s sebou přináší řadu nových rizik. Není to jen nepřiměřené, tvrdí vědci. Je to nebezpečné.
„Předložení úplných dokumentů (např. skenu pasu) samozřejmě s sebou nese rizika pro bezpečnost a soukromí a je nepřiměřené, protože odhaluje mnohem více informací než věk.“
Širším problémem není jen funkčnost nástrojů nebo životaschopnost pravidel. Jde o princip. Šifrování je již dlouho základem digitální bezpečnosti, na který se spoléhají aktivisté, novináři, zdravotníci i běžní občané. Jakmile však poskytovatel služeb může naskenovat soukromou zprávu, a to i „dobrovolně,“ tato základní záruka je porušena.
„Jakákoli komunikace, v níž jsou hlášeny výsledky skenování, i když je skenování dobrovolné, již nemůže být považována za bezpečnou ani soukromou a nemůže být páteří zdravé digitální společnosti,“ uvádí se v dopise.
Tato věta je obzvláště důležitá . Prolíná se právním žargonem a technickou nejednoznačností. Pokud se platformám pro zasílání zpráv umožní přihlásit se ke skenování obsahu, tlak na konformitu, ať už politický, sociální nebo ekonomický, bude obrovský.
Nakonec se „dobrovolnost“ stane normou. A šifrování ztratí smysl.
***
Je zajímavé, že Evropský parlament zvolil jiný směr. Jeho verze nařízení se vyhýbá rušivějším opatřením a zaměřuje se místo toho na cílená vyšetřování zahrnující identifikované podezřelé. Také se vyhýbá univerzálním požadavkům na ověřování věku.
Tato odchylka vytváří legislativní patovou situaci mezi Parlamentem a Radou, přičemž Evropská komise hraje roli mediátora.
Pokud návrh Rady nedojde k výrazné revizi, budou v nadcházejících měsících dominovat jednáním trialogu dva sporné prvky, a to dobrovolné skenování zpráv a povinné ověřování věku.
Akademici zase nabádají k opatrnosti před dnešním hlasováním. Jejich poselství je jasné: postupujte pomalu, pokud vůbec.
„I když jsou technologie detekce v zařízeních nasazeny dobrovolně, nemohou být považovány za rozumný nástroj ke zmírnění rizik, protože neexistuje žádný prokázaný přínos, zatímco potenciál pro poškození a zneužití je obrovský.
Došli jsme k závěru, že posouzení věku představuje inherentní nepřiměřené riziko závažného narušení soukromí a diskriminace, a to bez záruk účinnosti.
Výhody nepřevažují nad riziky.“
V prostředí, kde je důvěra veřejnosti v technologie již tak křehká, se návrh Rady potýká s přehnanými závazky. Navrhované nástroje s sebou nesou skutečná nebezpečí. Jejich přínosy, pokud vůbec existují, zůstávají neprokázané.
Lze jen doufat, že pouze mírně upravený „chat control“ dnes neprojde…
Ohodnoťte tento příspěvek!
[Celkem: 1 Průměrně: 5 ]
