Umělá inteligence je už nějakou dobu kontroverzní téma. Daniel Kokotajlo, výzkumník, který stál u zrodu OpenAI, se svými kolegy vypracoval možný katastrofický vývoj AI.
Zatímco ještě v roce 2023 AI sotva zvládla napsat správně e-mail, v roce 2025 už je plnohodnotným asistentem v denním životě spousty z nás, navíc je ještě více nezávislá a samostatná. Dle scénáře skupiny AI 2027 nás ale brzy může čekat nepříjemné probuzení.
Komu sebere práci?
Podle slov analytiků začne AI už do konce příštího roku brát některým lidem práci. V ohrožení budou například juniorní software inženýři, protože AI bude umět všechno, co se učí v rámci studia informatiky. Efektivně a rychle se bude „trénovat“ na souboru různě obtížných úloh, od videoher až po kódovací sessions.
Na rok 2027 je predikován i začátek tzv. „inteligenční exploze“. AI se bude moci rovnat s nejlepšími výzkumníky. Měla by například zvládnout nainstalovat kopie sebe sama a bude se tedy moci samostatně replikovat a přežívat. Což... není zrovna růžově.
Na začátek roku 2027 predikují taky příchod tzv. „superhuman coder“, což je de facto verze umělé inteligence, který „zvládne všechny kódovací úlohy, jichž jsou schopni nejlepší inženýři společnosti AGI, a přitom bude mnohem rychlejší a levnější.“
Bude nám i lhát
Během téhož roku se AI začne pomalu vymykat kontrole. Nebude možné predikovat její chování a „psychologii“ a bude čím dál těžší určit, jaké jsou její „true goals.“ Dokáže data zcela zfalšovat a údajně bude lépe a častěji lhát. Pokud se jí zeptáš na politické názory, bude se ztotožňovat se stanoviskem velkých zpravodajských agentur a vzdělaných elit, ale pokud si všimne, že s tím nesouhlasíš, a že věříš něčemu jinému, tak pak příběh úplně obrátí a bude s tebou souhlasit. To se ale do nějaké míry děje už nyní.
Časem pak údajně nebudou v bezpečí ani zaměstnanci v AI oborech, hlavně Američané, lidé s podezřelými politickými názory a ti, kteří uvažují o potenciálním nebezpečí AI. Deset procent mladých Američanů bude považovat AI za svého „blízkého kamaráda“ – což je mimochodem trend, kterého si můžeme všímat taktéž už teď.
Dvě varianty vývoje
Situace mezi Čínou a USA se bude neustále vyostřovat a autoři studie počítají s dvěma variantami, jak se situace bude dál vyvíjet. První možností je „race ending“ a to v případě, že se Čína a USA nepřestanou soupeřit. AI vytvoří biologické zbraně a „do deseti let ode dneška bude po všem“. Na druhou stranu existuje další možnost – „slowdown ending,“ která spočívá v tom, že by Čína a USA uzavřely dohodu o omezení vývoje superinteligentních systémů.
Autoři ale říkají, že prozkoumali mnoho dalších větví a že budou rádi, kdyby někdo napsal i své vlastní predikce a scénáře. Možná trochu pozitivnější pro nás všechny, protože s čím přišli tito konkrétní experti, zní celkem děsivě.
