Medicína a AI, díl 1: s čím klinická AI pomůže a o čem nesmí rozhodovat sama

Klinická AI je nejužitečnější tam, kde je otázka dost úzká na ověření a odpovědnost dost jasná na pojmenování. Model může pomoci třídit radiologické snímky, upozornit na rizikový vývoj laboratorních hodnot, navrhnout propouštěcí zprávu, prohledat záznam, označit pacienta s možným zhoršením nebo připomenout týmu opomenutý krok doporučeného postupu. Na takových úlohách záleží. Nemocnice jsou plné signálů, front a papírování a dobře řízený nástroj může důležité informace zviditelnit.

Nebezpečí začíná ve chvíli, kdy se podpora zamění za autoritu. Pravděpodobnostní skóre není diagnóza. Odpověď chatbotu není informovaný souhlas. Návrh plánu není rozhodnutí o léčbě. Etická doporučení WHO pro AI ve zdravotnictví zdůrazňují autonomii, bezpečnost, transparentnost, odpovědnost, rovnost a udržitelnost, protože klinická rozhodnutí vznikají ve vztahu: záleží na příznacích, hodnotách, jazyce, historii, rizicích, dostupnosti péče i schopnosti přijít na kontrolu. AI umí zpracovávat data, ale nenese profesní povinnost ani morální odpovědnost.


Praktická otázka zní, kde nástroj sedí v pracovním postupu. Některé systémy fungují jako druhý čtenář snímků a upozorní vyškoleného klinika na podezření na zlomeninu, známku mrtvice nebo plicní uzel. Jiné předpovídají riziko, například sepsi, zhoršení stavu nebo opětovné přijetí, aby se tým podíval dříve. Další snižují administrativu shrnutím záznamů nebo kódováním návštěv. Každé použití má jiné nároky na důkazy. Zobrazovací zdravotnický software může potřebovat regulatorní posouzení. Asistent dokumentace potřebuje kontroly soukromí, přesnosti a zkreslení. Rizikové skóre musí ukázat, že zlepšuje výsledky, ne jen přidává alarmy.

Validace je mechanismus, který mění slibný model v bezpečnější nástroj. Vývojáři musí ověřit, zda trénovací data odpovídají pacientům a přístrojům v místě použití. Nemocnice musí sledovat výkon lokálně, včetně skupin, které mohly být v datech málo zastoupeny. Týmy musí hlídat drift, když se změní skenery, kódování, nemoci nebo složení pacientů. Důležitý je i lidský faktor: příliš mnoho upozornění vede k ignorování, zatímco obrazovka bez nejistoty může vyvolat přehnanou důvěru.


Stejně důležitá je hranice soukromí. Klinická AI často pracuje se záznamy, snímky, hlasem, zprávami nebo daty z nositelných zařízení. Pacienti si zaslouží jasná pravidla, proč se data používají, kdo je smí vidět, jak dlouho se uchovávají a zda je dodavatel může využít znovu. Anonymizace a šifrování pomáhají, ale nenahrazují správu systému. Technologie, která šetří čas a zároveň tiše oslabuje důvěru, není dobrou zdravotnickou technologií.

Nejde o argument proti AI v medicíně. Jde o argument pro její správné místo. Nejbezpečnější budoucnost není ta, v níž klinici ignorují užitečné nástroje, ani ta, v níž software tiše nahrazuje úsudek. Je to dohlížený model: úzké úlohy, měřený výkon, viditelná nejistota, komunikace s pacientem, cesty eskalace, auditní záznamy a pojmenovaný člověk nebo instituce odpovědná za výsledek. Klinická AI může týmům pomoci více si všímat a méně psát. Nesmí však sama rozhodovat, kdo pacient je, jakou hodnotu má jeho život nebo jakou léčbu má přijmout.

Praktický test pro nemocnici je jednoduchý: kdo nástroj schválil, kdo ho sleduje, kdo smí jeho výstup zpochybnit a co se stane, když se mýlí? Pokud na tyto otázky není odpověď, problém není v matematice, ale ve správě péče.