k47.cz

twitter RSS
««« »»»

AI neutečete

15. 7. 2019 — k47

Před AI nejste v bezpečí, ani když vytaháte kabely ze zásuvek a zahodíte nabíječku mobilů. Vědci představili kus skla v němž je materializován AI program schopný rozpoznat ručně psané číslice. To nemusí vypadat nijak úchvatně, programy běžící na mikroprocesorech tento úkol zvládnou mnoho let, ale tady jde o fyzické vtělení – sama struktura materiálu pomocí maličkých bublinek a nečistot pasivně, bez nutnosti napájení, vykonává netriviální program

Když jsem uviděl titulek článku, okamžitě se mi hlavou prohnalo ultimátní využití: Zrcadlo, které ohodnotí, jak dobře vypadáte. Zrcadlo, zrcadlo, kdo je v zemi zdejší… Dvě hvězdičky z pěti, kámo.

Po technické stránce jde o fascinující výzkum, ale pořád platí obvyklý stav pesimismu ohledně AI a jeho dopadu na strukturu společnosti.

Uměle inteligentní agent nemusí dosahovat kognitivní úrovni člověka, aby dokázal rozbořit společnost tím, že učiní z práce naprosté většiny světové populace udělá přinejlepším bezcenné hobby. To není samo o sobě negativní, záleží kdo bude kontrolovat prostředky automatizované výroby. Když se podíváte, kdo vede ve výzkumu a praxi v této oblasti, je jasné, že to rozhodně nebude veřejnost.1

Možnosti a s nimi spojené hrozby jsou mnohé. Vezměte si třeba výzkum snažící se z rysů obličeje rozpoznat zločince. Jestli vám to zavání frenologií, nejste sami. Nic jako „vědecký rasismus“ přece neexistovalo. Počkat… Když stroj nakrmíte předsudky, on bude pochodovat podle jejich rytmu.

Nebo tenhle code completion nástroj. Už se taky nemůžete dočkat, až práci programátora plně zastane program, který měl původně jen doplňovat názvy proměnných?

AI neutečeme.


  1. Tady doporučuji přednášku Evgeny Morozova Digital Power and Its Discontents, která je, byť to může vypadat, že tangenciálně, relevantní.

[…] because the world in which we are heading rapidly is a very dark world where despite all the rhetoric about everything becoming accessible to everybody we see a very different trend that you can actually access those things only if you decide to incorporate as a startup company because otherwise where would you get the money given that the public funding of many such initiatives no longer exists and even if you incorporate as a start-up your only chance of survival, if you're really in an important industry, is to become a big digital monopoly which will then go and take money from Softbank, like uber does, and spend that money on crushing all the possible competition so that then you emerge as the only provider of public transportation and then you can charge whatever prices you want.

píše k47 & hosté, ascii@k47.cz