Pracovníci zdravotnických složek v České republice stále častěji sahají po populárních nástrojích umělé inteligence, jako je ChatGPT nebo Gemini, aniž by si uvědomovali možná rizika. Tyto systémy přitom nejsou certifikované jako zdravotnické prostředky a jejich použití při péči o pacienty může představovat vážné nebezpečí.
Na toto nebezpečí upozornila Česká asociace umělé inteligence, která varuje před nekontrolovaným využitím generativních modelů ve zdravotnictví. Podle odborníků se jedná o problém, který může ohrozit nejen pacienty, ale i celý systém zdravotní péče.
,,Již dnes si někteří ve zdravotnictví vypomáhají s dotazy na ChatGPT. Je to také cesta nebezpečná, protože může být vysoce riziková pro pacienty,“ upozornil předseda zdravotnické sekce asociace Matěj Misař.
Klíčová hranice podle expertů leží mezi asistenčním nástrojem a klinickou rozhodovací podporou. Jakmile AI jakkoliv ovlivňuje zdravotnické rozhodování, měla by projít certifikačním procesem. To se týká nejen situací, kdy systém přímo stanovuje diagnózu, ale i když upravuje klinické texty nebo navrhuje další vyšetření.
Nástroje od společností OpenAI, Anthropic či Google přitom takovou certifikací nedisponují. V České republice již existují systémy jako Carebot, Kardi AI nebo Aireen, které potřebnou certifikací prošly a jsou postavené na jasném klinickém účelu.
Proděkan ostravské lékařské fakulty Ondřej Volný vidí v AI užitečného pomocníka především pro administrativní úkony, jako je příprava dokumentace nebo sumarizace anamnézy. Zdůrazňuje ale nutnost kritického hodnocení každého výstupu.
Necertifikované systémy navíc představují bezpečnostní riziko pro citlivá zdravotnická data. Jejich využívání mimo kontrolované prostředí může porušovat pravidla ochrany osobních údajů a vytvářet právní nejistotu.
Zdroj: ČTK