Uniklý dokument Evropské komise (EK), výkonné složky Evropské unie (EU), odhalil, že umělá inteligence (AI), kterou plánuje používat k hromadnému sledování soukromých chatů kvůli „groomingovému“ obsahu, má v 10 % případů falešně označit obsah a předat ho vyšetřovatelům EU. (Foto: Flickr)
Tento navrhovaný masový dohled nad online chaty byl nazván „Chat Control“ a EK jej prosazuje jako způsob boje proti materiálům o sexuálním zneužívání dětí (CSAM). V uniklém dokumentu, který získal a zveřejnil Netzpolitik, však EK přiznala, že její navrhovaná opatření dohledu povedou k velkému množství falešných příznaků.
„Přesnost technologie detekce groomingu je přibližně 90 %,“ přiznala EK v dokumentu. „To znamená, že 9 z 10 obsahů rozpoznaných systémem je grooming.“
Uniklý dokument obsahuje odpovědi EK na řadu otázek německé vlády ohledně zavedení systému Chat Control.
Podle současných plánů Chat Control budou soukromé chaty, zprávy a e-maily automaticky skenovány umělou inteligencí na podezřelý obsah. Pokud umělá inteligence zjistí podezřelý obsah, bude označen a odeslán vyšetřovatelům do plánovaného centra EU. Tito vyšetřovatelé si obsah prohlédnou, identifikují falešně pozitivní případy a předají nezákonný obsah agentuře EU pro vymáhání práva Europol a dalším příslušným orgánům činným v trestním řízení.
Ačkoli donucovací orgány nemají přímý přístup k obsahu, který je označen a odeslán do tohoto plánovaného centra EU, uniklý dokument popisuje Europol jako „jednoho z nejdůležitějších partnerů“ pro toto centrum a dodává, že „úzká spolupráce je nezbytná“. Kromě toho dokument uvádí, že je „důležité, aby Europol dostával všechna hlášení“ z centra.
Německý poslanec Evropského parlamentu (EP) Patrick Breyer upozornil, že na základě této 10% chybovosti je pravděpodobné, že vyšetřovatelům EU bude ročně neoprávněně zpřístupněno více než tři miliony chatů a fotografií. Dodal, že předpokládaná chybovost EK je pravděpodobně také příliš nízká.
„V jiných jazycích než v angličtině bude chyb mnohem více. Podle švýcarské federální policie je až 86 % strojových hlášení NCMEC [National Center for Missing & Exploited Children] trestněprávně irelevantních,“ uvedl Breyer.
V praxi by to znamenalo, že miliony soukromých zpráv a chatů obsahujících legální obsah, jako jsou něčí fotografie dětí nebo vnoučat na pláži nebo soukromé chaty s přáteli a rodinou, by byly odeslány a zobrazeny vyšetřovateli EU, protože je označila umělá inteligence pro kontrolu chatu.
EK nejenže uznala, že její navrhovaný systém dohledu bude mít 10% chybovost, ale také uvedla, že šifrování spadá do oblasti působnosti Chat Control a že společnosti budou muset používat technologie, aby splnily jeho požadavky. To je zřejmě odkaz na technologii skenování na straně klienta, která v podstatě prolamuje end-to-end šifrování v chatovacích aplikacích tím, že skenuje obsah zpráv před jejich zašifrováním.
EK německé vládě rovněž sdělila, že jediným způsobem, jak mohou společnosti zabránit tomu, aby jejich službám bylo nařízeno zavést tato opatření hromadného sledování, je zavést věkové omezení pro používání jejich aplikací nebo zabránit přímému kontaktování uživatelů neznámými uživateli.
„Byrokraté EU vážně vyzývají k tomu, aby byli sedmnáctiletí buď zcela odříznuti od zpráv od osmnáctiletých, nebo aby byli zbaveni jakéhokoli soukromí,“ řekl Breyer. „To je stejně povýšené, jako kdybychom mladším 18 let nedovolili chodit ven bez doprovodu.“
Breyer dodal: „Je pobuřující, že se o zrušení soukromí digitální korespondence usiluje v rámci tajných jednání. Naléhavě potřebujeme vzít obranu digitálního soukromí korespondence do vlastních rukou!“
Iniciativa Stop Chat Control, která vede kampaň proti návrhům EK na kontrolu chatu, vyčetla EK, že poskytuje „vyhýbavé“ a „rozporuplné“ odpovědi ohledně kontroly chatu.
„Komise otevřeně přiznává, že v některých případech chce požadovat právní předpisy, které nelze technicky provést,“ dodala Stop Chat control. „Tím se staví nejen proti základním právům, ale i proti realitě samotné.“
Zdroj: reclaimthenet.org
Článek 3 miliony soukromých chatů by podle nových plánů EU mohly být předány vyšetřovatelům se nejdříve objevil na AC24.cz .
