Korporace jsou AI

Korporace jsou uměle inteligentní entity – taková je teze přednášky Dude, you broke the Future! Charlese Strosse z CCC 2017. Z tohoto poznatku můžeme odvodit, jak asi bude vypadat a jako se bude chovat vyspělá digitální AI budoucnosti.

Korporace jsou paperclip maximizer – forma AI s pevně danými cíli, které není možné změnit – entita existující jedině pro maximalizaci výnosů investic akcionářů. Korporace dělají, co je nejlepší pro korporace, ne nutně pro společnost. Naštěstí máme k dispozici nástroje, abychom zamezili nejhorším excesům korporátních AI – regulaci. Rychlost jejího nasazení je bohužel nedostatečná, v době briskního technologického pokroku ještě méně, a navíc byla infiltrována korporací. Například Ajit Pai, který dal poslední ránu síťové neutralitě ve spojených státech, před jmenováním do FCC pracoval pro telekomunikační gigant Verizon.

Naše současná společnost je formována korporacemi. Žijeme tedy v prostředí utvářeném touhami a potřebami AI, jsme nuceni hrát podle jejich pravidel, které nám říkají, že máme jen takovou hodnotu, do jaké míry přispíváme vládnutí stroje.

Stross v přednášce načrtne několik vizí budoucnosti, která není pěkná, ale svou extrapolací z minulosti, se zdá nevyhnutelná.

Jednou z nich je mikrotargeting propagandy, kdy propaganda je algoritmicky generovaná a přesně přizpůsobená pro každého příjemce. Reklamní průmysl potřebuje podrobnější sledování a profilování uživatelů a tím pokládá základy pro budoucnost, která bude využita jako zbraň propagandistické války. Protože proč ne? Cambridge analytica vyhořela, ale kdo zastaví Rusko prorážející novou agresivní trasu ledovci sociálních sítí.

Další předpovědí je falešná realita, která se nám rozpadá před očima. Stross zmiňuje DeepFakes a WaveNet – bylo to roku 2017, ale od té doby se mnoho změnilo. V roce 2027 tak dost možná nebudeme moci věřit ničemu, co uvidíme na videu. Vidět už nebude znamenat věřit. V kombinaci s předchozím odstavcem to představuje riziko, že veřejný diskurz bude fatálně infikován a otráven.

Nová generace paperclip maximizer AI se zaměří na náš nervový systém. Reklamní průmysl může fungovat jen kvůli naší tendenci k závislostem, a závislost na mobilech je přímý důsledek reklamního modelu monetizace aplikací, který vyžaduje neustálou interakci a obsesivní skrolování. Dopamine labs – firma, která se snaží mobilní aplikace učinit co nejvíce návykové – má určité etické námitky k totální maximalizaci návykovosti a manipulace, ale po nich přijde sociopat bez zábran, odhodlaný to vyhrotit pro vlastní obohacení a ten je mít nebude.

Finální destinace je neustále běžící rozpoznávání obličejů a sledování pohledu na mobilech, které uzavře smyčku. Vás mobilní telefon se stane perfektní laboratoří, která vás sleduje a produkuje nekonečný proud impulsů optimalizovaných v reálném čase pro maximální engejdžment.

„App now owns your central nervous system and you will be monetized.“

Načrtl vizi nepředstavitelné hrůzy, ale nejděsivější byla věta: „Someone out there is working on this.“ Protože proč ne? Kdo je zastaví?