ChatGPT si vymýšlí falešné články z Guardianu
7. 4. 2023
Minulý měsíc dostal jeden z novinářů deníku Guardian zajímavý e-mail, píše list. Jeden výzkumný pracovník narazil na zmínku o článku v Guardianu, který prý jeden novinář napsal na určité téma před několika lety. Tento článek však na webových stránkách Guardianu a ve vyhledávání neexistuje. Byl snad titulek článku od doby jeho vydání změněn? Byl z webu odstraněn záměrně kvůli problému, který identifikovali? Nebo list ke stažení donutil subjekt, o němž se článek zmiňuje, a to právní cestou?
Zmíněný reportér si nemohl vzpomenout, že by napsal tentio konkrétní článek, ale titulek rozhodně zněl jako něco, co on mohl napsat. Byl to článek na jeho téma.
Ten článek však nikdy nebyl napsán.
ChatGPT si v reakci na dotaz na články na toto téma jednoduše řadu článků vymyslel. Autoritativnost odpovědi a rozsáhlé odkazy, na kterých byla postavena, způsobily, že existence vymyšleného článku se zdála věrohodná i člověku, který ho absolutně nenapsal.
O tendenci generativní umělé inteligence vyrábět fakta a události už bylo napsáno obrovské množství textů. Ale tento specifický problém - vymýšlení zdrojů - je obzvláště znepokojující> A pro čtenáře a širší informační ekosystém otevírá zcela nové otázky o tom, zda lze citacím vůbec věřit, a dost dobře může přiživit konspirační teorie o záhadném odstraňování článků o citlivých tématech, které nikdy neexistovaly.
Pokud se vám to zdá jako okrajový případ, je třeba si uvědomit, že ChatGPT od listopadového startu zaznamenal v lednu 100 milionů uživatelů měsíčně. TikToku, který je bezesporu digitálním fenoménem, trvalo devět měsíců, než dosáhl stejné úrovně. Od té doby jsme byli svědky toho, jak Microsoft zavedl stejnou technologii do služby Bing, čímž vytvořil tlak na Google, aby jej následoval s Bardem.
Nyní tyto systémy byly včleněny do systémů Google Workspace a Microsoft 365, které mají mezi sebou podíl na trhu přes 90 %. Nedávná studie provedená mezi 1 000 studenty v USA zjistila, že 89 % z nich využilo ChatGPT jako pomoc pro své seminární práce. Tato technologie se i se všemi svými chybami normalizovala neuvěřitelnou rychlostí a nyní je jádrem systémů, které fungují jako klíčový bod objevování a kreativity pro značnou část světa.
Je snadné nechat se vtáhnout do detailů generativní umělé inteligence, protože je ze své podstaty nepřehledná. Myšlenky a důsledky, které již zkoumají akademici napříč různými obory, jsou nesmírně komplexní, technologie se rychle vyvíjí a společnosti s obrovskými stávajícími podíly na trhu ji integrují tak rychle, jak jen mohou, aby získaly konkurenční výhody, narušily konkurenci a především uspokojily akcionáře.
Diskuse