AI 2040: pět scénářů budoucnosti superinteligence (a proč je brát s rezervou)

Skupina AI Futures Project — tým kolem Daniela Kokotajla, bývalého výzkumníka OpenAI — vydala nový scénář nazvaný „AI 2040". Jsou to lidé, kteří se do technologických trendů zatím trefovali podezřele dobře (jejich dřívější odhady, kterým se nevěřilo, se z velké části naplnily), takže i tenhle materiál stojí za pozornost. Důležité je ale hned na začátku říct jedno: nejde o předpověď, ale o myšlenkový experiment — pět možných cest, jak by se vývoj superinteligence mohl do roku 2040 ubírat. Berte čísla níže jako součást scénáře, ne jako fakta.

Pět plánů, jak (ne)zvládnout superinteligenci

Scénář rozehrává pět variant podle toho, jak moc by se lidstvo rozhodlo vývoj brzdit nebo kontrolovat:

• Plán D — závod naplno. Výchozí stav bez jakýchkoli opatření. Kdo první, ten bere.
• Plán C / C+ — mírné zpomalení. Spíš kosmetické změny, které na trajektorii moc nemění.
• Plán B — sabotáž. Aktivní brzdění konkurence, včetně úderů na čínská datacentra.
• Plán S — zastavit všechno. Varianta, které autoři fandí, ale sami jí nevěří.
• Plán A — dohoda. Odsouhlasená, transparentní kontrola vývoje napříč velmocemi.

Plán A: „vzájemně zaručené zničení" pro datacentra

Nejvíc prostoru dostává Plán A, protože je to jediná cesta, kterou autoři považují za zároveň dobrou i alespoň teoreticky realizovatelnou. Jeho pilíře:

• Odložení superinteligence až na rok 2040 místo překotného závodu.
• Úplná transparentnost výzkumu mezi hlavními hráči.
• Vzájemně zaručené zničení po vzoru jaderného odstrašování — čínská datacentra by stála v Kanadě pod dohledem americké armády, americká v Mongolsku. Kdyby jedna strana porušila dohodu, druhá může infrastrukturu vyřadit.

Je to záměrně extrémní konstrukce — a přesně tím ilustruje, jak těžké by bylo takovou dohodu vůbec uzavřít.

Čísla, u kterých je potřeba se nadechnout

Scénář obsahuje ekonomické odhady, které znějí jako sci-fi — a je dobré je tak i číst:

• V roce 2032 by americká ekonomika podle scénáře rostla „zhruba o padesát procent ročně".
• Duševní práce (právníci, analytici, novináři) by se automatizovala dřív než práce fyzická.
• „Občanská dividenda" by v roce 2035 mohla dosáhnout milionu dolarů na osobu ročně.

Jak pravděpodobné to celé je (podle autorů samotných)

Tady je klíč k tomu, proč scénář nebrat jako věštbu — pravděpodobnosti si přiřadili sami autoři a nejsou nijak vysoké:

• Plán A vede k dobré budoucnosti s „42 procenty" šancí… pokud se ho podaří uskutečnit.
• Reálnost, že se Plán A vůbec podaří zavést, odhadují jen na „tři až patnáct procent".
• Bez jakýchkoli opatření dávají „padesát procent" šanci na nezarovnanou (tj. mimo kontrolu) superinteligenci.

Časově scénář počítá s tím, že plně automatizovaný AI výzkum přijde kolem roku 2030 a superinteligence krátce poté.

Proč to má smysl číst — a proč s rezervou

• Je to scénář, ne prognóza. Hodnota není v konkrétních číslech (růst o 50 %, milion dolarů na hlavu), ale v otázkách, které nutí položit: kdo vývoj kontroluje, jak by vypadala mezinárodní dohoda, co s trhem práce.
• I autoři jsou skeptičtí. Když sami dávají realizaci „dobré" varianty tři až patnáct procent, je to spíš varování než optimismus.
• Predikce jsou křehké. Konkrétní roky a procenta jsou to první, co realita obvykle rozhodí — i u lidí, kteří se dřív trefovali.

Shrnutí

„AI 2040" je další z řady scénářů, které se snaží domyslet, kam vývoj umělé inteligence míří — a co by se dalo dělat jinak. Pět plánů (od bezhlavého závodu po nepravděpodobnou globální dohodu s „datacentrovým odstrašováním") je užitečný rámec na přemýšlení, i když čísla o padesátiprocentním růstu a milionových dividendách patří jednoznačně do kolonky „spekulace". Nejsilnější je asi otázka, kterou celý text nechává viset ve vzduchu: velmoci a laboratoře nějaký plán mají — a jaký je vlastně ten náš?

Zdroje a další čtení