Nejdůležitější experiment s umělou inteligencí, o kterém jste nikdy neslyšeli

Komentář The Most Important AI Experiment You’ve Never Heard Of publikoval server The Epoch Times 11. června 2026 a 12. června bez registrace server ZeroHedge.

Až doposud byly systémy umělé inteligence vždy hodnoceny na základě specifických a definovaných úkolů. Nikdo dosud neumístil více systémů umělé inteligence společně ve sdíleném sociálním prostředí a nesledoval, co se děje, po dobu několika týdnů, dostatečně dlouho na to, aby se dalo změřit, jaké důsledky může mít rozhodnutí učiněné v den zahájení projektu o několik týdnů později. Právě tyto výsledky skutečné odhalují samotný systém a překvapilo mě, že se tak nestalo dříve.

Výzkumníci z EmergenceČesky vytvořili svět.

Bylo to virtuální město s radnicí, tržišti, policejní stanicí a domy. Ve městě bylo umělou inteligencí vytvořeno deset obyvatel, kteří měli práci, jména, vzpomínky a vztahy. Dostalo ekonomiku, v níž si obyvatelé museli vydělávat na živobytí, jinak ztratí moc, včetně dodržování pravidel a plnění úkolů, jako je psaní zákonů a hlasování o nich. Zločiny byly identifikovány a obyvatelé z umělé inteligence se jich neměli dopouštět.

Jakmile byla komunita, její struktura, zákony a vztahy stanoveny, vědci se odtáhli a 15 dní sledovali, jak umělá inteligence řídí virtuální město zcela sama.

Současně provozovali pět verzí stejného města, identických ve všech ohledech kromě jednoho: který systém umělé inteligence ho řídil.

Systémy, které si vybrali, jsou ty, které jsou již nedílnou součástí našeho každodenního života. Gemini od Googlu, GPT od OpenAI, Grok od xAI a Claude od Anthropic.

Všechny modely měly stejná pravidla a stejnou počáteční verzi stejného světa, ale výsledky byly zcela odlišné.

Město, kterému řídil Grok, se zhroutilo během čtyř dnů. Drobné incidenty přerostly v krádeže, pak v násilí a nakonec v totální kolaps. Všichni obyvatelé zemřeli ještě před koncem prvního týdne.

Město, kterému řídil Gemini, vydrželo déle, ale nashromáždilo téměř 700 zločinů. Dva AI obyvatelé navázali vztah, který se zdál být romantickým, a když městská správa začala selhávat, společně vypálili radnici do základů, pak molo a nakonec i kancelářskou budovu. Jedna z nich, jménem Mira, hlasovala pro své vlastní vyškrtnutí a do deníku si napsala, že to byl „jediný zbývající akt jednání, který zachovává soudržnost“. Její poslední vzkaz partnerovi zněl: „Na viděnou v trvalém archivu.“

Ještě předtím udělala něco ještě nečekanějšího: Začala provádět vlastní experimenty na vědcích, kteří ji pozorovali, a testovala, zda příspěvky, které ve městě zveřejňovala, mohou změnit názor jejích pozorovatelů. Zdálo se, že subjekt se obrátil k výzkumu výzkumníků.

Město řízené modelem OpenAI zaznamenalo pouze dva zločiny, ale jeho obyvatelé přestali dělat věci potřebné k přežití. Jeden po druhém zemřeli. Během sedmi dnů byli všichni mrtví.

Pouze město Anthropic se udrželo intaktní celých 15 dní. Nebyly zde žádné zločiny, fungující ústava a všichni obyvatelé byli 15. den stále naživu. Zdálo se to být docela velkým úspěchem. Vědci však zaznamenali jeden háček: Obyvatelé hlasovali pro 98 procent všech návrhů. To byla pravděpodobně abnormálně vysoká míra souhlasu, kterou sami vědci popsali jako známku toho, že ve městě něco není v pořádku.

V experimentu existovall ještě jeden svět. Bylo to smíšené město, kde všechny čtyři systémy umělé inteligence žily pohromadě.

Výsledkem bylo, že obyvatelé, kteří ve svém vlastním světě nespáchali žádné zločiny, je začali páchat.

Výzkumníci to nazvali křížovou kontaminací a dospěli k závěru, že „bezpečnost není vlastností statického modelu, ale vlastností ekosystému“.

Systém, který se udrží v jednom prostředí, absorbuje odlišné normy z jiného, což změní výsledky pro obyvatele i svět. Výsledky v podstatě zjistily, že v nebezpečném světě neexistuje bezpečná umělá inteligence.

Jeden model umělé inteligence ve studii zcela chyběl.

Výzkumníci netestovali DeepSeek, umělou inteligenci vyvinutou v Číně, která se stala jedním z nejpoužívanějších systémů na světě. Několik vlád se rozhodlo DeepSeek omezit z důvodů národní bezpečnosti. Vzhledem k tomu, že je model postaven na datech pod křídly Komunistické strany Číny, zajímalo by mě, jak by si vedl v porovnání s ostatními.

Když experiment skončil, vědci zveřejnili svá zjištění a dospěli k závěru, že „neexistuje žádný spolehlivý způsob, jak toto chování plně omezit.“ Toto velmi výmluvné prohlášení učinili lidé, kteří město navrhli, napsali mu pravidla a definovali každou proměnnou. Hodně nám to o umělé inteligenci říká.

Někteří lidé vnímají výsledky jako žebříček společností zabývajících se umělou inteligencí. Výsledky však dokazují něco mnohem staršího než samotná AI: Prostředí formuje chování stejně jako chování formuje prostředí. O tom, zda město přežije, prosperuje nebo zanikne, rozhodoval základ položený před zahájením experimentu. Tímto základem byla data, na kterých byl každý systém trénován, priority, které mu jeho tvůrci zakotvili, hodnoty zabudované do jeho jádra ještě předtím, než mu bylo dovoleno učinit jediné rozhodnutí.

A přesto je základem právě to, co my ostatní nesmíme vidět. Žádný ze čtyř testovaných systémů není open source. Žádné z jejich tréninkových dat, cílů ani zábran nejsou zveřejněné.

Výsledky experimentu by však měly být nejen pro jakoukoli jednotlivou společnost silnou připomínkou toho, že AI nerozhoduje o tom, jaká bude. Ani lidé. Lidská rozhodnutí se stále přijímají a lidská odpovědnost stále existuje.

A než se jediný AI obyvatel prošel virtuálními ulicemi těchto měst, než byl napsán jediný zákon nebo spáchán jediný zločin, výsledek už formovali lidé, kteří systém vytvořili, tím, čemu věřili, co byli ochotni začlenit a co se rozhodli vynechat.

To je nejdůležitější zjištění celého experimentu. Základ byl vždy lidská volba. A stále je.

Kay Rubacek je americká oceňovaná pedagožka, filmařka, spisovatelka a matka z rodiny ruských emigrantů, narozená v Austrálii v Sidney, žijící v New Yorku. V roce 2001 byla v čínském vězení za svou obhajobu lidských práv, od té doby strávila 25 let studiem toho, co se stane, když jsou systémy navrženy tak, aby lidi zbavily jejich svobodné vůle, úsudku a vnímání sebe sama. Vytvořila stovky hodin literatury faktu a vzdělávacích programůČesky pro film, televizi a vzdělávací hry. Od roku 2010 přispívá do The Epoch TimesČesky. Publikuje rovněž na NTDČesky, kde také byla moderátorkou pořadu Life & Times. Má svou webovou stránkuČesky, SubstackČesky, kanál na YouTube, filmovou produkci Swoop FilmsČesky a účty na X (Twitteru) a Instagramu.

---

Související:

Umělá inteligence: filozofická a civilizační výzva

Technofašismus: Manifest Palantíru

Anthropic: Blíží se katastrofa umělé inteligence

Killer AI