Pozor na umělou inteligenci
11. 1. 2026
čas čtení
3 minuty
„Nebezpečné a alarmující“: Google odstranil některá ze svých AI shrnutí poté, co bylo ohroženo zdraví uživatelů
AI Overviews poskytovaly nepřesné a nepravdivé informace při dotazech týkajících se krevních testů
Google odstranil některé ze svých shrnutí o zdraví vytvořených umělou inteligencí poté, co vyšetřování Guardianu zjistilo, že lidé byli vystaveni riziku újmy kvůli nepravdivým a zavádějícím informacím.
Společnost
uvedla, že její AI Overviews, které využívají generativní AI k
poskytování přehledů základních informací o daném tématu nebo otázce,
jsou „užitečné“ a „spolehlivé“.
Některé
souhrny, které se zobrazují v horní části výsledků vyhledávání, však
poskytovaly nepřesné zdravotní informace, čímž vystavovaly uživatele
riziku újmy.
V jednom případě, který odborníci popsali jako „nebezpečný“ a „alarmující“, poskytl Google nepravdivé informace o důležitých testech jaterních funkcí, které mohly vést lidi s vážným onemocněním jater k mylnému přesvědčení, že jsou zdraví.
Při zadání dotazu „jaký je normální rozsah jaterních krevních testů“ se zobrazilo velké množství čísel, málo kontextu a žádné údaje o národnosti, pohlaví, etnickém původu nebo věku pacientů.
To, co AI přehledy Googlu označily za normální, se může výrazně lišit od toho, co je skutečně považováno za normální, uvedli odborníci. Shrnutí mohou vést k tomu, že vážně nemocní pacienti se mylně domnívají, že mají normální výsledky testů, a neobtěžují se účastnit následných zdravotních prohlídek.
Po vyšetřování Google odstranil AI přehledy pro vyhledávací termíny „jaký je normální rozsah jaterních krevních testů“ a „jaký je normální rozsah jaterních funkčních testů“.
Mluvčí společnosti Google uvedl: „K jednotlivým odstraněním v rámci vyhledávání se nevyjadřujeme. V případech, kdy AI přehledy postrádají určitý kontext, pracujeme na rozsáhlých vylepšeních a v případě potřeby také přijímáme opatření v souladu s našimi zásadami.“
Stále existuje příliš mnoho příkladů, kdy AI přehledy Google poskytují lidem nepřesné zdravotní informace. Miliony dospělých po celém světě již mají potíže s přístupem k důvěryhodným zdravotním informacím. Proto je důležité, aby Google odkazoval lidi na spolehlivé, ověřené zdravotní informace a nabídky péče od důvěryhodných zdravotnických organizací.
Přehledy AI se stále zobrazují. Patří mezi ně souhrny informací o rakovině a duševním zdraví, které odborníci popsali jako „zcela nesprávné“ a „opravdu nebezpečné“.
Na dotaz, proč tyto přehledy AI nebyly také odstraněny, Google odpověděl, že odkazují na známé a renomované zdroje a informují lidi, kdy je důležité vyhledat odbornou radu.
Zdroj v angličtině ZDE
653
Diskuse