2400 lidí nechce vraždící roboty, co ten zbytek?

Vědec vytvoří stroj soudného dne, hrdinové však překazí jeho plány a svět je zachráněn. Takhle často vypadá zápletka sci-fi příběhu, kterému není proti srsti nějaké to klišé a který se snaží zvýšit napětí, tím že jde o osud celého lidstva. Takové rozuzlení mi nikdy nepřišlo uspokojivé, protože má jeden zásadní problém: Svět se změnil a nová ničivá technologie je dostupná. Když ji dokázal vyvinout jeden šílenec, co brání tomu, aby stejný kousek dokázal jiný šílenec. Zbídačené Severní Koree (jejíž HDP odpovídá Praze) se podařilo vyvinout vlastní jaderné zbraně a balistické střely. Jde o masivní industriální počin, co kdyby šlo o technologie, která má podstatně menší vstupní náklady a její výzkum je velice aktivní.

Zprávami se nedávno prohnalo sdělení, že 2400 lidí z oboru umělé inteligence (a Musk, jak jinak) se podepsalo pod přísahu nepomáhat ve vývoji autonomních zbraní a zabijáckých robotů. To je jistě pozitivní zpráva, pár tisíc špiček v oboru nesouhlasí s existencí strojů, která sami bez zásahu operátora rozhodnou o životě a smrti člověka. Podle mě však jde o nevýznamnou kapku v moři. Co ten zbytek? Na světě je sedm miliard lidí, nenajde se mezi nimi kohorta nemorálních jedinců, kteří se necítí být vázáni morálkou, etikou a empatií, když dostanou dobře zaplaceno. I mezi vědeckou elitou se najde několik fašistů a psychopatů a to stačí.

Umělá inteligence je příliš užitečná, stejně jako autonomní AI zbraně.

Ani google, který se před lety snažil tvářit lidsky a maskoval se mottem „don't be evil“, není imunní svodům peněz. Firma si chtěla ukrojit kus koláče lukrativních kontraktů automatizace zabíjení a ucházela se o armádní zakázku analýzy drony pořízeného videa a obrazů (aby tak zefektivnila proces zabíjení). Pak si toho všimli lidé obdaření morálkou a tato stinná stránka AI snah internetového hegemona začala dělat špatnou vizitku. Google najednou otočil, začal s pokryteckou písničkou o etické a humanistické AI s tím, že to tak myslel od samého začátku.

Nešlo přímo o vývoj autonomních zabijáků, ale ukazuje to jeden fakt – google je korporace a ta jde jen po pachu peněz. Jaký smysl má v tomto světle 2400 podpisů? Přinejlepším symbolický.

Výzkum všech dílcích technologií potřebných pro AI zbraně, běží na plné obrátky – počítačové vidění, rozpoznávání předmětů, řízení autonomních vozidel a další. To všechno je velice užitečné v civilní sféře. Zapojit do rovnice kulomet a začít autonomní genocidu není zásadní problém. Zabíjení je jen další úkol pro strojové učení. Vozidlo si nemusí lámat hlavu s dopravním značením a provozem, rozpoznává lidi v okolí IR termovizí a s algoritmickou precizností jim vypraví kultu přímo do mozkovny. Všechno ještě zlehčí, když se nikde kolem nebudou poflakovat naši. Výsledky jsou publikované, knihovny jsou open source, kdo to zastaví?

Výzkum umělé inteligence, který začal v padesátých letech, prošel několika stadii mediálního hype, kdy mnozí prorokovali neskutečný pokrok. Herbert Simon v šedesátých letech předpověděl, že stroje budou do dvaceti let zvládat všechno, co dokážou lidé. Neměl pravdu a místo jeho AI (u|dis)topie následovala AI zima.

Někteří současní AI výzkumníci – poučeni minulostí – věští, že jsme se dostali do slepé uličky, čekali jsme od AI příliš, investice se nevrátí a záhy přijde další AI zima. Možná. Možná, že deep learning dosáhl svých limitů a pokrok si vyžádá radikální úkrok stranou. Ale AI podává výsledky, které jsou komerčně nasazovány. Nejde jen o sny akademiků a základní výzkum, který je teoreticky zajímavý, ale nic nezmění. Strojové učení mění náš svět a formuje ho podle záměrů algoritmických panovníků. Navíc – všechno co teď máme, dostačuje pro vývoj autonomních zbraní. Nepotřebujeme nic nového, stačí jen nacpat články publikované na posledních konferencích o AI nacpat do Avegera nebo do automatizovaného hnízda kulometů, které bude sedět na hranicích.

Kdo to zastaví? Stačí jedna entita, která kývne na kontrakt.

Samotní AI výzkumníci přiznávají, že sami nemůžou zastavit odhodlaného člověka v konstrukci autonomní zbraně. Navíc pokud protivník dokáže vyrobit autonomní zbraně, mnohem ničivější, než ty, kterými disponujeme my jako etický stát, jsme v ohrožení a musíme mít vlastní autonomní zbraně, abychom se dokázali bránit. Nemít vraždící roboty znamená riskovat životy našich občanů.

Jde o nejhorší možnou variantu, která svět vrátí do doby, kdy každý den hrozil jaderný holokaust, ale více méně nevyhnutelnou. AI je prostě příliš užitečná, stejně jako AI zbraně.

Kdybych si dovolil spekulovat, tak to nejlepší, čeho se můžeme dočkat je válka 2.0 – autonomní zbraně můžou bojovat jen s jinými autonomními zbraněmi, a lidé s jinými lidmi. Když jsou všechny autonomní zbraně protivníka zničeny, napochodují na scénu vojáci a začnou vraždit protivníka.