Přehledy Google AI vystavují lidi riziku újmy zavádějícími zdravotními radami

Lidé jsou vystaveni riziku újmy kvůli nepravdivým a zavádějícím zdravotním informacím v přehledech umělé inteligence společnosti Google

Firma Google  uvedla, že její přehledy AI, které využívají generativní AI k poskytování přehledů základních informací o daném tématu nebo otázce, jsou „užitečné“ a „spolehlivé“.

Některé souhrny, které se zobrazují v horní části výsledků vyhledávání, však obsahovaly nepřesné zdravotní informace a vystavovaly lidi riziku újmy.

V jednom případě, který odborníci popsali jako „opravdu nebezpečný“, Google nesprávně doporučil lidem s rakovinou slinivky břišní, aby se vyhýbali potravinám s vysokým obsahem tuku. Odborníci uvedli, že to je přesný opak toho, co by se mělo doporučovat, a může to zvýšit riziko úmrtí pacientů na tuto nemoc.

V dalším „alarmujícím“ příkladu společnost poskytla nepravdivé informace o důležitých testech jaterních funkcí, což mohlo vést k tomu, že lidé s vážným onemocněním jater se mylně domnívali, že jsou zdraví.

Vyhledávání Google týkající se testů na rakovinu u žen také poskytovalo „zcela nesprávné“ informace, které podle odborníků mohly vést k tomu, že lidé ignorovali skutečné příznaky.