Chat control do detailů vysvětlený

Poslední dobou se hodně v médiích skloňuje chat control a jeho schvalování v Evropském parlamentu. Podle jeho obhájců je to nástroj na ochranu dětí, podle odpůrců díra do soukromí. Piráti by rádi viděli změnu ústavy, která by takovéto nápady znemožnila jednou pro vždy, ale najdou se i politici, kteří by to podpořili… Dáni to prosazují jak o život, aktuálně si většina zemí, včetně ČR a Německa si klepe na čelo a odmítá to. Ale zdá se, že mimo odbornou komunitu kolem počítačů se vytrácí logická argumentace. Takže – co takhle tento slavný návrh trochu rozpitvat, ať jsme v obraze?

Jak to vše začalo

V roce 2022 měli v Dánsku super nápad. Lidi se baví po internetu a občas si vyměňují i dětské porno. A žijeme v době umělé inteligence. Co takhle nasadit AI? Aby dětské porno detekovala a pachatele policajtům do drápů házela? Na první pohled dobré, ochrana dětí, to se musí. Na většinu věcí je ale dobré jít s rozmyslem, zvážit možnosti a při tom si spočítat pro a proti. Napřed se tedy podíváme, jaké zvolili řešení, pak výhody a nevýhody.

Jak je to plánováno?

Plán je jednoduchý. V chatu napíše uživatel zprávu, nebo pošle soubor. AI se podívá, co v tom je a pokud se jedná o podezřelý obsah, předá ho operátorovi ke kontrole. Ten by měl posoudit, zda se jedná o trestný čin, a případně ho předat policii k řešení. U všech, bez výjimky, bez soudního rozhodnutí,…

Máme tedy komunikátor, kde napíšeme zprávu. Ta se zašifruje a pošle příjemci… Moment! Ono je to šifrované, to nezkontrolujeme! Takže se musíme podívat ještě před tím zašifrováním. Chcete si napsat vlastní a konkurovat Messengeru, Telegramu nebo Signalu? Smůla, nemáte dost peněz na AI, která to bude řešit. Takže konkurenceschopnost Evropy v komunikacích to stáhne ještě níž, než teď. Ale chráníme tím děti. Takže 1:1

Jenže AI je energeticky a výpočetně náročná. Prý by to mělo jet přímo v mobilu nebo na vašem počítači. Je s rychlostí na limitu? No, tak od teď se bude sekat video v komunikaci, protože šmírování má přece přednost,je to zákonný požadavek. Kup si nový, co na to, že omezujeme množství elektroodpadu. A že při chatování nabíjíš mobil jednou za dva dny? Zapomeň, odteď budeš nabíjet 2× denně. Ale chráníme děti, takže 1:2.

Jenže to není vše. AI obsahuje data,na kterých se učila. Když ji natrénujeme na dětské porno, bude v AI v mobilu obsahovat… tradá … dětské porno! Nevím, jak někteří euro poslanci, ale já je ve svých věcech nechci. Ale můžeme říct, že chráníme děti. 1:3 proti chat control.

Něco málo o AI

AI je hezká věc, ale musí se napřed natrénovat. To se děje tak, že AI dáte třeba 100 000 fotek a označíte, co má rozeznat. A na cvičných datech se to naučí. Čím víc dat, tím spolehlivější to je. Takže na vytvoření takové AI, co detekuje dětské porno, potřebujete spoustu dětského porna. Musí tam být různá etnika, různý věk, takže snímky a videa stovek, ne-li tisíců osob. A tady se ukazuje jeden malý problém – budou programátoři povinně zneužívat děti, aby tím zabránili zneužívání dětí? A kolik preventivně zneužitých dětí bude na jedno zneužité v reálu? Jsem jediný, komu to nedává smysl a dělá další čárku proti? Jsme na 1:4.

No a zmínil jsem se už o tom, co to může detekovat? Konverzaci o zneužívání dětí. Za předpokladu, že je pachatel blbý jak předkladatel tohoto návrhu. Slova jsou kódy, kterými se domlouváme. Stačí je jen přehodit a místo „soulož s dítětem“ použít třeba „grilování kuřete“ a je vymalováno. AI nemá šanci rozpoznat kontext hovoru, když v něm nebudou klíčová slova nebo fráze. Dost blbé, ale je to zamyšleno jako ochrana dětí, tak je to prostě bude chránit, i kdyby je to nechránilo. Skóre je 1:5 a Chat Control zatím prohrává.

I v posílání fotek a videí se někteří zjevně spoléhají, že je pachatel blbější, než oni. Jinak by se totiž zamysleli, zda jdou soubory například zabalit do archivu s heslem. Tak, jak to dělá při komunikaci pojišťovna nebo banka. Soubory zabalí, zahesluje a heslo pošle SMSkou. V tom případě je AI slepá. Věříte, že slepá AI děti ochrání? Vůbec ne, ale bude to dělat jiné psí kusy! Ve chvíli, kdy pošlete svoje intimní fotky partnerovi nebo partnerce. Ono je to pro některé překvapující, ale pohlavní orgány se v den 18. narozenin vizuálně nezmění. A co víc, každý je má jiné. Opravdu bych chtěl vidět AI, která pozná, zda fotka ztopořeného penisu patří klukovi ve věku 17,5 nebo 18,5 roku. Když to budeme ignorovat, může to být dětské porno. Takže to ignorovat nesmíme a nahlásíme podezření. V tu chvíli se nějaká, vám neznámá, osoba dostane k vašim intimním fotkám. Že je to pro vás nepříjemné? Že je to zásah do soukromí? No a co, je to přece na ochranu dětí. Že k odeslání hlášení využije váš datový tarif, to už je detail, který ani pomalu nestojí za zmínku. Jsme na slušném skóre 1:6.

Vyhodnocení podezřelých zpráv

Zkusme se vcítit do kůže někoho, kdo přijde do práce, sedne k počítači, vyhrnou se na něj stovky fotek nahých těl. A jeho práce je poznat, co z toho patří autorům textových zpráv, co ne a kteří z nich jsou plnoletí. Možná vás to bude bavit týden, pak vám to zevšední. Ale nepoznáte nic a budete klikat náhodně. On to policajt vyšetří na místě. To jako vážně? Je ti 20, pošleš dickpic 19leté přítelkyni a policie bude požadovat, ať jim ukážeš penis, aby ho mohli porovnat s odeslanou fotkou? Vyfotí tě znovu a založí to do spisu, který pak odloží, protože ti bylo 18? Nebo jak jinak by si to představovali? I když je to vedeno dobrým úmyslem chránit děti, tak asi nebudete protestovat, když skóre posuneme na 1:7.

Poznámka: Článek 7, odstavec 2 Listiny základních práva a svobod říká: „Nikdo nesmí být mučen ani podroben krutému, nelidskému nebo ponižujícímu zacházení nebo trestu.“ Já bych si takovým vyšetřováním připadal hodně ponížený.

Zajímá vás, kdo a z čeho bude platit pracovníky, kteří vám budou koukat do soukromí a připravovat AI? Jsou jen dvě možnosti. První je nechat to na provozovatele služby, ale zaplatíme to jako zákazníci. Buďto v měsíčním poplatku za užívání služby, nebo zvýšeným přídělem už tak všudypřítomné reklamy. Berte to jako trest za to, že nic špatného neděláte. Nebo druhá možnost, státní zaměstnanec, placený z našich daní. Z těch každopádně půjde zvýšená spotřeba policistů, kteří budou kontrolovat pindíky a pipinky. Nedělám si iluze, že by se dali spočítat na prstech jednoho člověka. Takže zvýšíme daně, nebo ubereme peníze třeba školám nebo nemocnicím? Toto nevypadá jako něco, co by se dalo použít na srovnání skóre, spíš naopak. Aktuální stav je 1:8.

Z pohledu práva

A když už jsme u toho státu, soukromí člověka se podle práva dá narušit jen s jeho svolením nebo příkazem soudu. Ne takto plošně. Navíc podle pravidel pro používání AI, které si sama EU prosadila, se nesmí používat pro plošné sledování. Chat control mění zaběhnutá pravidla ochrany soukromí. Ale dělá iluzi ochrany dětí i za cenu pošlapání práv občanů, to se přece počítá. Nemůžu jinak, ale v našem srovnání už je to 1:9.

Otázkou zůstává, co se stane, pokud se rozhodně zneužívané dítě vyhledat pomoc v online prostoru a napíše třeba školnímu psychologovi, co se děje. Kdyby to nebylo ošetřeno, tak jistě bude pro zneužívané dítě dobrá zpráva, když se druhý den dozví, že ten, komu věřilo, je ve vazbě, protože si s někým psal o zneužívání dětí. A zavřený školní psycholog dítěti taky nejspíš moc nepomůže. A když bude pro ně výjimka? Myslím, že vystudovat psychologii může i pedofil a pokud se najde několik takto postižených školních psychologů, můžou otevřeně mluvit o zneužívání bez ohledu na AI. Tentokrát se skóre mění zase v neprospěch návrhu na 1:10 Tohle prostě nedává smysl.

No a i ta ochrana dětí. Věk konsensu je u nás 15 let, od něj se může legálně provozovat sex, pokud není za úplatu. A dá se předpokládat, že když už spolu dva lidi mají sex, uvidí se nazí. Navíc prodej spodního prádla nějak není omezen věkem. No a teď si představte 17letý pár, o víkendu si spolu zcela legálně zasouloží a pak každý odjede na internát do jiného města. Ona si koupí hezké prádlo, aby mu udělala radost a pošle mu pár fotek. Nějaká AI to vyhodnotí, že jí nejspíš nebylo 18 a je tam moc odhalené kůže… V tu chvíli na dveře pokoje na internátu klepe policie a slavná ochrana dětí se rázem mění na divadlo před spolubydlícími a obvinění z výroby dětské pornografie, i když šlo o pár selfie v prádle. Nevím, jak někteří politici, ale mám pocit, že startovat do života s obviněním z trestného činu za to, že online ukázala příteli něco, co pár dní před tím nejen viděl, ale i se toho zcela legálně dotýkal, toho s ochranou dětí moc společného nemá. Takže zase měníme skóre, pro změnu musíme ochranu dětí škrtnout. A uzavíráme na hezkém výsledku 0:10.

Kde se berou argumenty pro

V současné době běží dočasný program pro kontrolu chatu ze strany provozovatelů služeb, toto by mělo končit v dubnu příštího roku. Funguje to tak, že pokud provozovatel zjistí zneužívání dětí, nahlásí to a předseda euro parlamentu si libuje, jak moc se toho povedlo odhalit a tohle ještě zlepší skóre.

Jenže ono to má háček. U provozovatelů služeb na to většinou funguje tlačítko „nahlásit“, které přepošle zprávu provozovateli, ten se podívá a pokud je podezřelá, předá ji úřadům. Takže bez AI a od příjemce.

Shrnutí

Rozebrali jsme si Chat Control. Drahé, nefunkční řešení zneužívání dětí, s narušením soukromí všech občanů EU a stigmatizující mladé, kteří ve vztahu dělají to, co dospělí běžně smí. Založené na předpokladech, že pedofil po zneužití dítěte hned poběží na internet a otevřeně bez jinotajů se s tím pochlubí ostatním, a to včetně fotografií z činu. Vyžadující, aby ve jménu dobra bylo nejprve několik tisíc dětí zneužito. Tato představa je hodně naivní. To, co se zde předvádí, je čistý alibismus – „Použili jsme moderní technologie proti zneužívání dětí a že se žádné nepodařilo objevit znamená, že se to neděje.“ Přitom není jediný důvod to nasadit a je minimálně deset problémových bodů, proč zavést v euro parlamentu rituál nahánění blbů kolem budovy rozlíceným davem a vyzkoušet jej na podporovatelích tohoto nápadu. Jinak propad důvěry v EU nezastaví.

Pokud vás napadají ještě nějaké argumenty, budu rád, když se o ně podělíte v diskusi. Vážně ale pochybuji, že se podaří vyvážit všechny argumenty proti. Moje osobní srovnání se zatím zastavilo na 0:10 a tento šílený nápad to projel na celé čáře. A to jsem nezahrnul listovní tajemství a podobné samozřejmosti, které by tím padly. Vynechal jsem článek 10 Listiny lidských práv a svobod, který taky mluví proti. A riziko, že „když už to máme, tak to můžeme použít na svolávání demonstrací proti …“ Hranice svobody je hodně tenká.

Chceme-li skutečně zabránit zneužívání dětí, nepotřebujeme podobné nesmysly. Potřebujeme, aby dítě vědělo, co to zneužívání je a potřebujeme, aby mělo někoho, komu se s důvěrou může svěřit. Když se to stane a bude mít zázemí v rodině a ve škole, dozvíme se o trestném činu přímo od oběti. A kdo tím neubližuje jiným, ať se baví o sexu jak chce a posílá nahotinky dle libosti bez toho, že by se mu někdo vrtal v komunikaci a soukromí.