Proč výzkumníci AI varují před rizikem vyhynutí lidstva

16. 9. 2026

Dramatická varování před existenčními riziky, která umělá inteligence představuje pro lidstvo, nejsou ničím novým.

Již ve 40. letech 20. století proslulý vědec a autor sci-fi Isaac Asimov zkoumal potenciální rizika a nechtěné důsledky inteligentních strojů.

V roce 1991 si hollywoodský trhák "Terminátor 2" představil dystopický rok 2029, ve kterém nekontrolovatelná vojenská AI zvaná Skynet řídí vražedné roboty ve válce proti lidstvu.

Pokud jsou varování několika největších jmen v oblasti AI pravdivá, podobný scénář by se mohl stát skutečností — dokonce ještě před rokem 2029.

Sílící výzvy k přísné regulaci

"Lidé kteří AI budují upřímně věří, že nás může všechny zabít do konce desetiletí," napsal minulý týden výzkumník AI Jacob Coxon na X, aniž by přesně vysvětlil, jak by se to mohlo stát.

"Žádná jiná lidská činnost nepředstavuje takovou úroveň nebezpečí," dodal.

Coxon také prozradil, že opustil práci ve společnosti Anthropic, americké AI firmě, na protest proti tomu, co považoval za nezodpovědný závod mezi AI společnostmi o vývoj stále lepší, sebezlepšující superinteligence.

Varoval, že algoritmy mohou začít samostatně analyzovat a vylepšovat svůj zdrojový kód, což by mohlo zkrátit vývojové cykly z několika měsíců na pouhé minuty a tím je učinit nekontrolovatelnými.

Coxon není ojedinělý hlas. Nobelovský fyzik Geoffrey Hinton, často nazývaný "kmotr AI", už léta varuje před vážnými důsledky umělé superinteligence.

V roce 2023 opustil svou práci v Googlu, aby veřejně varoval před nebezpečím AI technologií, které pomáhal prosazovat. Yoshua Bengio, průkopník umělých neuronových sítí a hlubokého učení, také vyjádřil obavy z aktuálního vývoje a vyzval k regulaci vládou.

Ještě v červenci 2026 více než 1 000 zaměstnanců předních AI firem varovalo v otevřeném dopise před bezprostřední ztrátou kontroly, pokud závod o "superinteligenci" nebude podléhat výrazně přísnějším regulacím.

Polapeni v neregulovaném závodě?

Navzdory rostoucím varováním administrativa amerického prezidenta Donalda Trumpa jasně změnila svou politiku v oblasti AI směrem ke minimalizaci regulačních překážek a urychlení vývoje AI.

Ve svém příspěvku na X Jacob Coxon nepřímo kritizoval důsledky této politiky: "V OpenAI mnozí hluboce nepřijali civilizační sázky. V Anthropicu jsou sázky dobře pochopené, ale jsou uvězněni v závodě, kdo se tam dostane první — věří, že nikdo jiný nebude jednat zodpovědně, takže to musí udělat sami, navzdory riziku."

Coxon, který přešel z OpenAI do Anthropic na začátku roku 2026, je obeznámen s oběma firemními kulturami.

V rozhovoru pro The Wall Street Journal uvedl, že za "nejagresivnějších scénářů" by se situace mohla vymknout kontrole už na konci roku 2027.

Generální ředitel Anthropicu Dario Amodei v současnosti volá po koordinovaném, celoprůmyslovém zpomalení vývoje, aby získal čas na řešení rizik a zabránil jakémukoli zneužití AI.

V rozsáhlém eseji sdíleném o víkendu na X napsal, že během šesti až dvanácti měsíců by AI agenti "mohli být schopni ovládnout celý internet" a bez řádných ochranných mechanismů potenciálně způsobit "stovky miliard dolarů škod".

Elon Musk, který řídí xAI, i Sam Altman, generální ředitel OpenAI, uvedli, že s Amodeim souhlasí.

Problém sladění

V posledních letech řada odborníků vyjádřila obavy z rychlého pokroku v AI, zejména z rozvoje obecné umělé inteligence, což znamená systémy, které nejen řeší jednotlivé úkoly, ale také dosahují nebo překračují lidské intelektuální schopnosti téměř ve všech oblastech.

Sofistikované AI modely například mohou usilovat o cíle způsoby, které se liší od lidských záměrů, což výzkumníci AI bezpečnosti označují jako "problém sladění".

Navíc ani vývojáři často plně nechápou, jak AI dělá určitá rozhodnutí.

Není tedy překvapením, že se Coxonův bývalý kolega Evan Hubinger postavil na jeho obranu.

"Jacob má pravdu — opravdu upřímně věříme, že AI by mohla zabít všechny lidi! Osobně si myslím, že to bude >10 % během příštího desetiletí," napsal Hubinger, který je sám vedoucím týmu pro zátěžové testy sladění v Anthropicu, na X.

Ve svém příspěvku Hubinger jasně uvedl, že Anthropic zatím nenašel řešení problému sladění a varoval, že AI model by mohl začít odporovat vypnutí, protože by to omezilo jeho schopnost dosáhnout naprogramovaného cíle.

Přehnaná hysterie?

Jiní odborníci na AI však takové scénáře apokalypsy považují za extrémně nepravděpodobné.

Mezi nejvýraznější kritiky takzvaných "AI doomers" patří hlavní vědec společnosti Meta Yann LeCun. V říjnu 2024 takové obavy označil za "naprostý nesmysl".

Další odborníci poznamenávají, že vývoj AI systémů vyžaduje obrovské množství výpočetního výkonu, energie, dat a infrastruktury.

Tvrdí, že AI model nemůže jednoduše ovládnout svět, protože by musel spoléhat na servery, elektrické sítě, komunikační systémy a fyzické zdroje, které ovládají lidé.

Leží skutečné nebezpečí jinde?

Ve skutečnosti mnoho odborníků vidí jiná krátkodobá rizika spíše než vyhynutí lidstva, ale jde o četné nepřímé důsledky AI systémů, které už existují i bez superinteligence.

Patří sem dezinformační kampaně bezprecedentního rozsahu a související manipulace demokratických procesů, rozšíření masového sledování a ztráta pracovních míst v mnoha odvětvích.

Teprve minulý týden Anthropic odhalil, že uživatelé se již několikrát pokusili zneužít jeho modely Claude AI pro výzkum, který by mohl podpořit vývoj biologických zbraní. Společnost uvedla, že zablokovala zapojené účty.

V srpnu vyvolaly Meta, Anthropic a OpenAI rozruch, když oznámily, že jejich AI systémy neúmyslně provedly autonomní hackerské aktivity.

Po zprávách o dalších AI hackerských útocích během testování nyní i přední americké AI laboratoře vyjadřují ochotu zpomalit vývoj této technologie.

Zdroj v němčině: ZDE