My ty lži napíšeme za vás

OpenAI – Muskova neziskovka s nadačním příspěvkem ve výši jedné miliardy dolarů – vyvinula AI program, který dokáže generovat texty nebezpečně blízké těm napsaných lidmi, tak nebezpečně, že se rozhodla natrénovaný model nezveřejnit. Bedny z openai se, oprávněně, obávali, že by jejich výtvor mohl být zneužit pro masovou produkci fake news. Jejich krok může nevypočitatelnost technologického kombajnu jen dočasně zpomalit, nemůžou ji zastavit. Džin byl vypuštěn z lahve. Jedna společnost mohla mít zábrany, ale jiní je mít nebudou. Takováto věc je příliš užitečná, než aby nebyla využita, aspoň pro určité aktéry.

Na AI modelu je složitá a drahá (ať už na expertízu, výpočetní čas nebo vstupní data) jen jeho konstrukce, práce je překvapivě levná. Když je model jednou vytrénován, může generovat falešné texty s triviálními nároky a zcela neúnavně. (Sledovali jste někdy malé dítě, jak roste a učí se, jen abyste si uvědomili, že jeho malé krůčky jsou zcela nevýznamné v porovnání s AI, která se učí jednou pro vždy a přepadla vás nekonečná sklíčenost?)

Jde o krok do nereality – světa, kde cokoli, co čteme, sledujeme nebo jinak vnímáme, může být fata morgána algoritmicky generovaná jen pro nás, a kde si tím nikdy nemůžeme být zcela jisti, kde nemůžeme ničemu úplně věřit.

O deep fakes se začíná mluvit i v našem malém rybníčku/hybridním bojišti Ruska. Americká nvidia na této frontě pokračuje v decimaci obrazové reality. Představila AI systém, který ze skeče vygeneruje fotorealistickou fotku.

Výsledkem nebude devalvace pravdy, ale situace, kdy nebudeme ničemu věřit.