Deep fakes včera, dnes a zítra

Představte si svět v němž žádnému sdělení, které obdržíte skrz digitálně zprostředkované médium, nemůžete věřit. Podívejte se z okna, tam ten svět spatříte.

Termín deep fake se objevil před pouhýma dvěma roky, kdy se na redditu začalo objevovat první deep fake porno. Šlo o práci lidí s dvěma specifickými zájmy, na jedné straně AI a na druhé fantazie o tom, že se známé herečky objeví v pornu. Nejspíš to byli nadšenci, kteří neuronové sítě trénovali sami. Od té doby jednak pokročil výzkum (například generování videí, ve kterých začne mistrně tančit i ten, kdo má obě nohy levé) a druhak došlo ke zjednodušení uživatelské přívětivosti. Na deep fakes je teď kdejaká aplikace jako třeba tahle. Ta zatím vloží cizí obličej do předem pečlivě vybraných klipů, na kterých je speciálně trénována, ale to se může rychle změnit. Pokrok se žene rychle kupředu a od publikace akademického článku do aplikace, která dělá do té doby téměř nemožné na jedno kliknutí, dělí jen pár let. To co je dnes stěží představitelné, může být za dva roky realitou, kterou není možné odinovovat zpátky.

Změna může přijít velice rychle a veřejný diskurz se stane velice rychle velice ošklivým. Jak nastane doba, kdy nedokážeme určit zdali obsah média má nějaký vztah k pravdě, už nepřestane. Nastal technologický zlom, který nelze vzít zpátky.

Nejlepší, v co lze doufat, je že „konzument“ sdělení nebude ničemu věřit, ani pravdě, ani lži. Pokud bude zahlcený informacemi, mezi nimiž je něco pravdivé a něco fabrikace, ale nemá schopnost rozlišit jedno od druhého, obranou reakcí bude, že to všechno hodí přes palubu a přestane věřit čemukoli. To v podstatě znamená konec veřejného diskurzu a sdíleného náhledu na svět, ale pořád jde o nejlepší možnost. Všechny ostatní jsou jen temnější. Přinejhorším se pak nechá nevědomky manipulovat hráči, kteří nemají nejlepší úmysly. Čím se technologie stane vyspělejší, lidé v porovnání s ní budou primitivnější.

Představte si, k čemu v letech před definitním kolapsem důvěry a pravdy může být deep fake použité. Někdo nahradí ve filmech černé herce bílými? Proč ne? Nové verze filmů, ze kterých zmizí Kevin Spacey a další herci na černé listině a budou nahrazeni nezávadnými tvářemi? Proč ne? Podvodníci AI systémem napodobí hlas ředitele firmy a tak vylákají pár stovek tisíc dolarů? To se už stalo.

Na druhou stranu AI a automatizace otevírá debatu o tom, jakou společnost chceme – ne jen jakou dostaneme, protože je „nejefektivnější“.