Brzy bude příliš pozdě na regulaci používání autonomních zbraní, varuje Červený kříž

23. 11. 2026

čas čtení 6 minut

 

Varování před tím, že „džina už nebude možné vrátit do láhve“, přichází v době, kdy se konferenci OSN nepodařilo dohodnout na regulačním nástroji

Mezinárodní výbor Červeného kříže a organizace na ochranu lidských práv varovaly, že brzy bude příliš pozdě na to, aby se „džin vrátil do láhve“, jelikož vývoj autonomních zbraní zřejmě předstihuje snahy o jejich regulaci.

Toto důrazné varování přišlo v době, kdy více než 120 členských států Úmluvy OSN o některých konvenčních zbraních uzavřelo týdenní konferenci v Ženevě.

Navzdory rostoucímu tlaku dohoda o projednání nástroje k regulaci autonomních zbraní v příštích dvou letech nesplnila požadavky na naléhavá opatření, která podle organizací na ochranu lidských práv byla nezbytná k řešení hrozícího nebezpečí.

 

„Začínáme být svědky toho, jak se umělá inteligence… nasazuje na bojišti a možná již i v zbraňových systémech. Pokud to necháme bez regulace, bude mnohem obtížnější vrátit džina zpět do láhve,“ uvedla dr. Cordula Droege, ředitelka pro mezinárodní právo, hnutí a partnerství v Mezinárodním výboru Červeného kříže (ICRC).

Autonomní zbraně jsou vojenské systémy, které jednají bez lidského dohledu, často s využitím umělé inteligence nebo jiných forem robotiky.

Vzhledem k tomu, že se umělá inteligence v posledních letech exponenciálně rozvíjí, armády a výrobci vytvářejí stále pokročilejší zbraňové systémy pro útočné i obranné účely.

Mezi tyto systémy patří využití umělé inteligence při generování databází cílů, jak to učinila izraelská armáda v Gaze, stejně jako poloautonomní drony ve válce mezi Ukrajinou a Ruskem, které disponují „schopností poslední míle“, kdy umělá inteligence přebírá kontrolu při závěrečném přiblížení dronu k cíli.

Předsedkyně Mezinárodního výboru Červeného kříže (ICRC) Mirjana Spoljaric Eggerová a generální tajemník OSN António Guterres vyzvali k vytvoření právně závazného nástroje s jasnými zákazy a omezeními týkajícími se používání zbraní. ICRC zejména vyzval k zákazu používání autonomních zbraní proti osobám, k zajištění předvídatelného chování zbraňových systémů a ke stanovení omezení pro zbraně, včetně omezení jejich použití výhradně na vojenské cíle.

Odborníci uvedli, že vzhledem k rychlému vývoji autonomních zbraní a umělé inteligence by neschopnost vytvořit adekvátní regulaci mohla mít nebezpečné důsledky.

„Nejde o to zakázat všechny autonomní zbraňové systémy, ale stanovit v mezinárodní smlouvě hranice, které by nikdy neměly být překročeny,“ uvedl Droege. „Jsme velmi blízko k překročení těchto hranic; zejména zacílení na lidské bytosti pomocí strojů by mělo být morální hranicí.“

Další organizace zabývající se lidskými právy varovaly, že jakékoli zpoždění v regulaci těchto zbraní s sebou nese riziko, že normy pro používání autonomních zbraní budou určovat soukromý sektor a armády.

Autonomní zbraně již způsobily újmu civilistům. V červenci byli v Záporoží na jihovýchodě Ukrajiny zabiti tři civilisté ruským dronem řízeným systémem umělé inteligence. Dron se pokusil zasáhnout čerpací stanici, která byla pravděpodobně jeho zamýšleným cílem, místo toho však narazil do zdi a zabil tři lidi sprškou střepin.

V Gaze Izrael od začátku války používá metody zaměřování podporované umělou inteligencí, díky nimž dokáže naplnit své databáze cílů mnohem rychleji, než je lidsky možné. V důsledku toho lidskoprávní organizace uvádějí, že byli omylem zabiti civilisté a lidé s nepatrnými vazbami na militantní skupiny.

V Íránu byl údajně americký úder, který zasáhl základní školu a zabil 156 civilistů včetně 120 školáků, výsledkem chybných zpravodajských informací shromážděných systémy umělé inteligence.

Anna Hehir, vedoucí oddělení vojenské správy umělé inteligence v institutu Future of Life Institute, uvedla, že další odklad uzavření silné smlouvy by mohl vést k „dalším případům masového zranění civilistů, jaké jsme viděli v posledních 18 měsících až dvou letech“, a varovala, že některé z těchto událostí s velkým počtem obětí by mohly zastínit to, co se již stalo. Uvedla, že výrobci a armády se snaží vyvinout „rojové“ schopnosti, při nichž budou současně působit stovky či tisíce autonomních dronů.

„To s sebou nese potenciál velkých škod, a to už jen kvůli obrovskému množství autonomních systémů. Stačí, aby u jednoho z nich došlo k algoritmické chybě, a celý roj bude na základě této chyby nasazen a veden určitým směrem… zejména pokud jsou naprogramovány tak, aby útočily na lidi.“

Existuje také riziko šíření těchto technologií, protože nestátní skupiny stále častěji využívají umělou inteligenci k programování svých zbraňových systémů, jak tomu bylo v případě, kdy hnutí Houthi v Jemenu použilo program Claude k „vibe kódování“ balistických raket.

Ozbrojené islamistické skupiny v africkém regionu Sahel údajně používají nástroje umělé inteligence ke zlepšení balistiky dronů a k operačnímu plánování.

„To je jediná věc, na které tento týden záleží. Nejde vlastně o podstatu zákonů. Na pořadu dne je zde po 13 letech konečně politická vůle začít brát regulaci autonomních zbraňových systémů vážně,“ uvedl vysoký diplomat obeznámený s diskusemi v OSN.


Zdroj v angličtině ZDE 

0
Vytisknout
81

Diskuse

Obsah vydání | 23. 11. 2026