Technokracie

A co třeba tohle: Osobní svobody byly zakořeněné v dobách, kdy jejich porušování bylo komplikované a náročné a bylo třeba značné organizované snahy ze strany státu k jejich porušení. Když se ale technologie sledování, vytváření záznamů a jejich korelace stala dostupnou nebo dokonce triviální, idea svobody nemůže přežít. Zůstane buď jedno nebo druhé a vzhledem k tomu, že tohle čtete na zařízení osazeném mnoha senzory, které disponuje výpočetním výkonem vyšším než nejrychlejší počítač světa před 20 lety, to vypadá, že technologie bude ta, která přetrvá.

V polovině devatenáctého století s rozvojem železniční sítě narostl objem mezinárodních cestujících. Následovalo překvapivé rozvolnění kontrol na hranicích a až do první světové války (většinou) nebylo třeba mít pas pro cestování Evropou. Kontrola pasů a vynucování příslušných zákonů bylo příliš komplikované, technologie nebyla dostatečně způsobilá a proto ustoupila svobodě pohybu.

Nutnost pasů a jejich kontroly byly opět zavedeny během první světové války a od té doby zůstaly, i když byly považovány za kontroverzní. Ve dvacátých letech si turisté stěžovali na pasové fotografie a popisy zevnějšku, které považovali za dehumanizující.

To je podle mě důležité.

Před nějakou dobou jsem četl článek, jehož autorka se pustila do experimentu s internetem věcí. Nakoupila mnoho zařízení a snažila se s nimi žít. Zároveň se její známý nainstaloval do její sítě jako man-in-the-middle, do stejného postavení, které by měl ISP, naslouchal tepu paketů a zjišťoval, co všechno se může dozvědět.

Velice rychle vyplynulo, že jde o masivní zásah do soukromí. I když je velká část komunikace šifrovaná, jen ze vzorů a časů komunikace se serverem, bylo možné vypozorovat mnoho informací a korelací¹ (vibrátor připojený k internetu, co by se mohlo pokazit, žejo).

Přesto se však závěr článku nesl v duchu: Celé tahle IoT je především nepohodlné, protože potřebuji mnoho nových zásuvek a aplikací, které spolu nespolupracují; ne že jde o příšerný zásah do soukromí. Použitelnost, přístupnost a technikálie budou vyřešeny, nikdy nemrkajíc oko panoptikonu zůstane — detaily provedení jsou přechodné, exfiltrace osobních informací je vrozená a neměnná (ať už z principu technologického nebo ekonomického).

V podobném duchu: Ve Spojených státech se Department of homeland security (DHS) rozhodl vybudovat masivní databázi biometrických a dalších údajů jako je DNA nebo rozpoznávání tváře každého člověka, na kterého dosáhnou. Jedna z kritik EFF vede k neefektivitě identifikace a příliš častým falešným pozitivům, kdy je člověk chybně identifikován jako zločinec/terorista/podezřelý. To je pochopitelně nepříjemné, jde o tupou krutost ze strany státu, ale technologie se zlepší. Identifikace se stane perfektní a tento úhel kritiky zmizí.

Nemá smysl si stěžovat, že technologie není dostatečně sofistikovaná a proto je nespravedlivá. To pomine. A co potom: Budeme žít ve světě, kterému vládne precizní technologie, která je zároveň nespravedlivá a dehumanizující.

Kritika musí směřovat do jádra věci jako šíp skrz srdce, nezaměřovat se na eventuality a dočasnosti, ale na podstatu bezpráví. Biometrický systém DHS má být kritizován protože je z principu dehumanizující. Protože z principu všechny považuje za podezřelé, na které musí hromadit důkazy, protože – někdy v budoucnosti – se jistě prořeknou, začnou se stýkat s podezřelými charaktery nebo se udělají něco, co bude považováno za podezřelé a pak se složka bude hodit.

A teď přijde čas na pesimismus: Protože je technologie dostupná a efektivní, nevyhnutelně se stane normou. Je to jako, když ve dvacátých letech protestovali proti podobenkám v pasech. Dneska je to normální a nikdo nad tím nepozvedne obočí.

Databáze biometriky, DNA, tváří a dalších údajů se s největší pravděpodobností stanou běžnou realitou. Technologie existuje a ta dokáže přečkat prvotní projevy odporu a protestu, dokud se aktivisté neunaví a pak přijde čas zavedení technokraty, zcela bez odporu, jako Další-Běžnou-Věc. Omezení práv technologiemi je snadné a trvalé, jejich obrana je namáhavá a neustálá.

Nejhorší, co se může stát, je společnost pod tak silným dohledem, kontrolou a organizací, že ji není možné nijak změnit.²

Jako obvykle, nejsem příliš optimistický, že to dobře dopadne.

V Číně ve velkém rozjíždějí rozpoznávání tváří. Je pravda, že lidská práva a osobní svobody v komunistickém superstátu za posledních 70 let nebylo nikdy příliš horké téma. Velí tam technokraté, kteří se snaží vládnout precizní aplikací represe. Na Čínu je možné se dívat jako na normativní vzor, jehož praktiky budou prosakovat do zbytku světa.

1. Nejde o unikátní slabinu internetu věcí, ale téměř všech přenosů, které je schopná pozorovat třetí strana. Dají se například identifikovat sledovaná videa nebo deanonymizovat agregovaná data.
2. O tom ale už psal Engeny Morozov.