k47.cz

twitter RSS
««« »»»

Jak velká část internetu je falešná?

27. 12. 2018 — k47

The Inversion je termín vytvořený lidmi z youtube označující hypotetický stav, kdy většinu provozu video serveru budou mít na svědomí roboti (podle zpráv to v roce 2013 bylo kolem 50%), a v důsledku toho systémy klasifikující spam a boty začnou považovat falešný provoz za legitimní a lidské návštěvy za podvodnou aktivitu robotů.

To se píše v článku How Much of the Internet Is Fake? Turns Out, a Lot of It, Actually., který si bere do hledáčku internet, kde falešnost, podvod a manipulace jen bují jako algoritmická rakovina. Někdy to zachází tak daleko, že jedinou spojnici s realitou, kterou si může být jistí, tvoří reklamy. Ty se nás také snaží zmanipulovat a svést, ale jejich účel je jasný—kliknout & zaplatit.

Text zmiňuje aféru kolem deep fakescelkovou korozi uvěřitelnosti v digitálním prostředí, kde si můžeme být jistí čím dál méně a méně věcmi, kde vidět neznamená věřit, nebo spíš znamená věřit fabrikacím a riskovat podlehnutí manipulaci. Není divu, že v takovém světě se na jednu stranu dostavuje pocit unavené rezignace a na druhou konspirační teorie letí.

Contrary to what you might expect, a world suffused with deepfakes and other artificially generated photographic images won’t be one in which “fake” images are routinely believed to be real, but one in which “real” images are routinely believed to be fake — simply because, in the wake of the Inversion, who’ll be able to tell the difference?

Nvidia se pochlubila dalším pokrokem v generování fotorealistických tváří a scén. Jak je vidět, obor umělé inteligence postupuje mílovými kroky vpřed a není důvod nevěřit, že za pár let bude možné generovat novinové články s doprovodnými fotografiemi o fiktivních nebo zkreslených událostech ve vpravdě masivním měřítku. Výzkumníci AI, aniž by to věděli, budují bránu do Borghesovské fikce Tlönu—fiktivní virtuální svět, který pohltí ten náš.

Gang z googlu před celou dekádou publikoval článek The Unreasonable Effectiveness of Data1 jehož stať zní: K čemu je porozumění, když máme horu dat. Do značné míry mají pravdu—myriády příkladů poslouží lépe k zachycení komplikovaných interakcí než elegantní model. Ale k čemu jsou tato big data, když jsou infikovaná podvodnými aktivitami botů, nakažena manipulací a věrně popisují naše předsudky a nejhorší lidské vlastnosti stokrát zesílené lupou internetu. Jak bude vypadat svět, když se AI bude učit ze lží, podvodů a řvu těch nehlučnějších spammerů? (Že se to nemůže stát, říkáte?) Těžko říct, ale bez aktivní snahy na naší straně vybudovat lepší svět, ne jen zefektivnit všechny neduhy toho starého, to nebude pěkné.

Poslední odstavec je velice úderný:

What’s gone from the internet, after all, isn’t “truth,” but trust: the sense that the people and things we encounter are what they represent themselves to be. Years of metrics-driven growth, lucrative manipulative systems, and unregulated platform marketplaces, have created an environment where it makes more sense to be fake online — to be disingenuous and cynical, to lie and cheat, to misrepresent and distort — than it does to be real. Fixing that would require cultural and political reform in Silicon Valley and around the world, but it’s our only choice. Otherwise we’ll all end up on the bot internet of fake people, fake clicks, fake sites, and fake computers, where the only real thing is the ads.

Kulturní a politické reformy v Silicon Valley? Sázkové agentury na to nedávají příliš dobrý kurz. Jsme příliš hluboko v mýtu Silicon Valley, a hi-tech sektoru obecně, jako neutrální disruptivní síly, která nám přinese spásu, abychom sebrali sílu ke kolektivní akci jako masa a ne jen atomizovaní spotřebitelé. V tom spočívá jádro naší tragédie – můžeme sebelépe vědět, že je to zlé, ale to samo o sobě nic nezmění.


K tématu: The Cost of Living in Mark Zuckerberg’s Internet Empire


  1. Mimo jiné se tam píše „we don’t have an established methodology to deal with mistaken premises or with actors who lie, cheat, or otherwise deceive,“ což je překvapivě relevantní.
píše k47 & hosté, ascii@k47.cz