k47.cz

twitter RSS
««« »»»

Kosmický virus

18. 2. 2018 — k47

Nebudu lhát: Včerejší článek je divokým mixem tří nebo čtyř jiných článků, které jsem nosil v hlavě & chtěl jsem je někdy, až přijde správný čas, sepsat. Včera v noci všechny najednou vyhřezly na klávesnici jako střeva přejetého zvířete. Každou třetí větu text bez varování změnil téma. Nic z toho jsem neplánoval, původně jsem chtěl psát něco zcela jiném, blížila se půlnoc a s ní další vycpávka. Někdy v budoucnosti se k tomu vrátím a koherentně rozepíšu všechny dílčí komponenty.

Nicméně, nedávno jsem zakopnul o akademický článek Interstellar Communication. IX. Message Decontamination is Impossible, který ve své podstatě řeší problém filmu Den Nezávislosti: Co kdyby nám mimozemsťané poslali virus. Jde o práci v oboru teoretický meziplanetárních vztahů, tedy něco o čem normálně debatují dva opilí lidé ve tři ráno. Tihle dva konkrétní opilci svoje kecy sepsali do podoby akademického paperu.

Kosmo-virus je fascinující koncept, který nedává žádný smysl. Nebo možná aspoň trochu.

Kdyby nám mimozemská civilizace nějakým způsobem zaslala virus, musejí s ním nutně poslat definici virtuálního stroje. Ten udává způsob jakým má být kód interpretován. Může to být něco jako lambda kalkul, nebo něco jiného, ale musí existovat. Bez definice virtuálního stroje je kód jenom smetí bez významu. Nehrozí, že by nám z Proxima Centauri přišla x86 binárka, kterou jednoduše pustíme na PC s Windows 10.

Vždyť i my, kteří máme všechny informace světa na dosah ruky, nemůžeme spustit libovolný exáč na jiném operačním systému, než pro jaký byl zkompilován, nemluvě o jiné procesorové architektuře.

Nehrozí tedy, že by virus klasickým způsobem dostal roota na x86 linux stroji a začal nám spamovat email nabídkami levé viagry.

Místo toho je zajímavější přemýšlet o tom, že by zpráva mohla obsahovat AI – uměle inteligentní program, který začne oťukávat prostředí ve kterém běží, bude se ho snažit poznat, najít jeho slabiny a probít se ven. Kdyby běžel v dostatečně izolovaném virtuálním prostředí, pořád je možné program kdykoli vypnout. Přesto by bylo rozumnější program disassemblovat a dumpnout data a zkoumat jeho obsah offline, než ho spustit a čekat, co udělá.

Autoři článku prezentovali možnost, že AI program běží na izolovaném místě a lidem (např) nabídne lék na rakovinu, jen je to bude něco stát. V takové situaci začínáme obchodovat a smlouvat s potenciálně nepřátelskou mocností. To mi nepřipadá jako ideální strategické rozhodnutí. Pokud AI skutečně zná lék na rakovinu, musí být obsažen v zaslaném kódu, který můžeme analyzovat a pokusit se mu důkladně porozumět a potřebné znalosti z něj extrahovat offline.

To je všechno pěkné, ale mnohem větším problém představuje rozšíření programu mezi lidi. Pokud relaci zachytí několik nezávislých posluchačů a jeden z nich si nedá pozor a program spustí, lidstvo může vyhynout, i když si všichni ostatní dávali pozor.

Je to jako když IRA hrozila Margaret Thatcherové: […] remember we only have to be lucky once. You will have to be lucky always.

Další možností může být, že nepošlou program, ale instrukce stroje zkázy, který si sami ochotně postavíme. Může jít o mechanický, chemický nebo biologický stroj, potenciálně maskovaný jako něco neškodného a lidstvu užitečného.

Poslední a nejzajímavější varianta by byla, kdyby nám nepřátelsky naladění mimozemšťané, poslali sociální virus nebo, chcete-li, filosofický virus — sadu myšlenek, které by sami o sobě byly nebezpečné a přivodily by konec lidstva. šlo by o několik přesně mířených ran, které rozkývají misky vah tak, že přestanou být stabilní a civilizace by zkolabovala. Co přesně by mohlo být obsahem takového sdělení, je otázka na kterou nikdo (očividně) nezná odpověď.

Může také existovat eventualita, že sdělení přijmeme, ale nikdy nerozluštíme jeho pravý význam. Tomáš Petříček (jednou jsem s ním (& dalšími) pil bizarní belgická piva) měl přednášku Would Aliens Understand Lambda Calculus o tom, že s mimozemskou civilizací ani nemusíme sdílet žádný fundamentální způsob, jak porozumět kódu, výpočtu nebo logice. Na světě existuje mnoho jazyků, které nedokážeme rozluštit a přitom jde o jazyky z našeho světa, ne z planety, která se vyvíjela zcela odděleně od té naší.

Otázka však zní „proč“? Poslat zkázu emailem je určitě jednodušší a levnější než startovat hvězdné lodě, ale proč by něco takového galaktická civilizace podnikala? Proč by se měla chovat negativně nebo pozitivně? Jaký to má smysl?

Argument článku se tak netočí kolem hrozby z kosmu, ale rizika použití technologie, které zcela nerozumíme.

Nicméně, jako v případě emailu, bude rozumné neotevírat galaktické zprávy ke kterým je přiložený exe soubor.

píše k47 & hosté, ascii@k47.cz