Příliš užitečné
Internetem doznívají otřesy kauzy cambridge analytica, pověst facebooku je nalomená, konečně se může v online světě surveillance kapitalismu něco změnit k lepšímu, když přivřete oči, Zuck skoro vypadá, že dostává pokoru.
Ale ono se nic nezmění.
Má to jeden hlavní důvod. Upozornil na něj Evgeny Morozov, když tweetnul jeden řádek ze Zuckových poznámek:
Break up FB? Us tech companies key asset for America; break up strenghtens Chinese companies.
Spojené státy se nijak nepokusí zkrotit svůj tech průmysl utržený ze řetězu, protože by to znamenalo oslabení před Čínou (která se s ničím nesere). Tech průmysl je příliš užitečný pro spojené státy a proto se politicky nic zásadního nezmění. Může dojít ke kosmetickým úpravám, ale facebook jako monstrózní entita, která spaluje soukromí svých uživatelů a mění je na peníze z reklamy (a občas přitom zničí demokracii některé země), zůstane nezměněna. Je zkrátka politicky příliš užitečný.
To stejné se dá říct o umělé inteligenci: Jde o potenciálně nebezpečnou technologii, která s největší pravděpodobností přivodí kolaps naší civilizace, ale je příliš užitečná a proto ji nikdo nepřestane vyvíjet. Když jeden stát uzná, že AI s sebou nese příliš rizik, zbytek světa (zas v čele s Čínou) se nezastaví a v mžiku je předběhne. Stačí jeden aktor na planetě, který nebude hrát dle dohodnutých pravidel, nebude se zdržovat otázkami morality nebo udržitelnosti projektu lidstva, a který bude pochovat jen dle rytmu technologické a ekonomické nadvlády. Ten kdo disponuje vyspělou AI, má navrch před všemi ostatními, kdo ji nemá k dispozici. Jde o nebezpečné ekvilibrium mezi zájmy akcionářů na jedné straně a koncem civilizace na straně druhé.
Dalo by se to částečně přirovnat k jaderným zbraním, ale ta analogie není dostatečná. Jaderná technologie je užitečná pro výrobu elektřiny nebo pro nástroje konce světa. Jedno použití může být zakázáno (a povoleno jen několika státům) a druhé těžce monitorováno. Naproti tomu umělá inteligence je použitelná ve všech odvětvích lidské činnosti, protože směřuje k jejich kompletnímu nahrazení, a zároveň s sebou nese riziko finální terminace Antropocénu. I když je riskantní, je příliš užitečná a nikdo si nedovolí riskovat zůstat pozadu.
Z toho důvodu jsme všichni v hajzlu.
Všechny diskuze o rizicích a bezpečnosti AI jsou bezpředmětné, všichni budou hrát tuhle hru až do konce, ať se ten konec ukáže být jakýmkoli. Jde o příliš užitečný pokrok.
Další důvod, proč se v kauze facebook nic nezmění, jde nedostatek radikalismu.
Lidé teď volají po humánním facebooku, chtějí to samé, jen trochu lepší, tu samou masivní firmu, jen s tou změnou, že dbá na naše soukromá data. To je příklad kriminální krátkozrakosti. Cambridge analytica neodhalila patologické chování facebooku, ale vnesla světlo do jeho byznys modelu — ten je vystavěn kolem koncentrace uživatelských dat a jejich využití pro marketing. To je všechno. Inkrementální řešení nic nezmění. Pokud se chceme osvobodit, musíme myslet mnohem víc radikálně. Můžeme mít facebook bez facebooku, tedy síť, která poskytuje všechny jeho služby, jen s tím rozdílem, že veškerá moc není soustředěna v rukou jedné korporátní entity. Technologicky je to možné, jediný důvod, proč v téhle realitě už dávno nežijeme je prostý: Kapitalismus. O tom už mluvil Dmytri Kleiner.
Takže asi takhle: Jsme ve slepé uličce. Nedokážeme si představit konec facebooku kvůli nedostatku radikalismu a globální politice, nedokážeme si představit konec kapitalismu, protože to přece jinak nejde, nedokážeme se zbavit narativní linie umělé inteligence, protože kapitalismus. A proto jsme ve slepé uličce. Zbývá nám posledních pár let, dokud všechno nebude ztraceno.