Umělá inteligence při tvorbě odborného medicínského textu – dobrý sluha, ale zlý pán

Vážená redakce,

umělá inteligence (artificial intelligence; AI) se v medicíně stává čím dál důležitějším nástrojem. Využívá se k analýze velkých množství dat, identifikaci vzorců a odhalování souvislostí. To umožňuje objevovat nové informace a poskytovat zdroje pro výzkum a vylepšování diagnostiky a léčby. V současné době je nejpropracovanější analýza obrazu, zejména v oblasti radiodiagnostiky.

Další oblastí, kde AI nachází uplatnění, je příprava rukopisu odborného článku a zlepšení jeho kvality a přesnosti. Často se používá při jazykové korektuře nebo přímo při překladu textu. Další možností je využití AI k identifikaci klíčových slov a frází v článku, což může zlepšit jeho citovanost a míru vyhledávání. AI také může pomoci s automatickým dohledáváním relevantních literárních zdrojů a citací.

Souběžně s příchodem velkých jazykových modelů postavených na neuronových sítích se objevuje riziko zneužití AI v medicínské odborné literatuře k tvorbě podvodů [1]. Například může dojít k manipulaci s výsledky studií, kdy jsou data upravena tak, aby podpořila určitou hypotézu nebo produkt. Dokonce nejsme daleko od doby, kdy AI bude schopna vytvořit kompletně celý podvodný článek sama.

Jedním z velkých jazykových modelů je ChatGPT od společnosti OpenAI [2], který je veřejnosti zdarma dostupný od listopadu roku 2022. Je schopen rozumět a generovat lidskou řeč a využívá se různými způsoby, jako jsou chatboty, překladatelské programy, generování textů a mnoho dalších aplikací. ChatGPT používá obecnější model GPT-3 (v současné době i novější verzi GPT--4), je trénován na obrovském množství dat a využívá nejmodernější technologie strojového učení, aby byl schopen generovat texty, které jsou přirozené a srozumitelné. Jeho schopnost porozumět jazyku a generovat texty ho činí užitečným nástrojem pro mnoho odvětví, vč. medicíny.

Pro demonstraci možností ChatGPT jsme využili téma, které jsme zpracovali formou krátkého sdělení v tomto čísle Cesk Slov Neurol N – úrazy hlavy a mozku na koloběžkách. Požádali jsme AI, aby v češtině vytvořila abstrakt k článku na toto téma a poté i diskuzi. ChatGPT (konkrétně volně přístupná verze GPT-3.5) vygeneroval kompletně fabrikovaný text vč. číselných údajů, který velmi dobře imituje vědeckou práci. V další konverzaci jsme požádali o kritické poznámky k vygenerovanému textu pro případ recenze a na závěr o návrh dalšího směru výzkumu. Celou konverzaci přikládáme na konci tohoto článku. Pro úplnost dodejme, že první autor tohoto článku neměl v době komunikace s ChatGPT k dispozici rukopis skutečné původní práce na stejné téma [3].

Výstup, který nám ChatGPT poskytl, působí na první pohled velmi autenticky. Bez dodání konkrétnějších informací dokáže AI správně uchopit téma a napsat konzistentní pojednání, které odpovídá danému formátu. Po odborné stránce nenalézáme zásadní chyby, úroveň českého jazyka je velmi vysoká. Při bližším zkoumání však vychází najevo, že lidský zásah a úpravy by byly před podáním k eventuální recenzi nezbytné. Text místy působí velmi obecně, v části diskuze zatím neumí tento chatbot přiřadit správné citace.

Současná verze ChatGPT byla trénována na datech do září 2021. V tuto chvíli nemá přístup do databází (např. PubMed) či webových vyhledávačů. Další omezení představují délka vygenerovaného textu a schopnost interpretovat vztahy mezi informacemi nacházejícími se na vzdálených místech v textu, ale logicky souvisejícími. Je pravděpodobné, že příčinou tohoto omezení je fixní velikost latentního prostoru, ve kterém model udržuje veškeré kontextuální informace o zpracovávaném textu. Jednou z inovací, kterou GPT-3 překonává své předchůdce, především rekurzivní jazykové modely, je schopnost komprimovat předchozí kontext a připojit k němu nové informace, a přesto zpracování delších textů a jejich logická koherence stále mohou být  nedokonalé.

V posledních letech se výkon nejpokročilejších AI zdvojnásobuje každých 6 měsíců, což výrazně překonává klasický Moorův zákon [4,5]. V řádu několika málo let téměř jistě bude k dispozici nástroj, jenž překoná mnohé výše zmíněné nedostatky ChatGPT. Již nyní např. OpenAI spolupracuje s Microsoftem (Redmond, WA, USA) na nástroji, jenž spojí GPT-4 a vyhledávač (tzv. New Bing), čímž AI získá přístup k daleko většímu množství aktuálních dat. Na podobném projektu pracuje i společnost Google (Mountain View, CA, USA) – LaMDA, Bard. S rozvojem jazykových modelů přibývá i nástrojů pro detekci textu vytvořeného AI (např. volně dostupné AI Detector či AI Text Classifier). Jejich schopnosti jsou však omezené a nelze je považovat za spolehlivé [6–8].

Stojíme nepochybně na prahu nové éry, kdy AI bude hrát klíčovou roli prakticky ve všech oblastech našich životů. V klinické medicíně se jistě bude podílet na diagnostice a personalizované léčbě pacientů, v akademické sféře pak na zpracování dat, tvorbě textu a jazykové korektuře. Bude se jednat o naprosto legitimní zjednodušení práce pro autory publikací, zároveň však může některé z nich svádět k podvodnému jednání. Je potřeba tuto realitu přijmout a adekvátně přizpůsobit systém pregraduálního i postgraduálního vzdělávání, stejně jako způsob publikací odborných a vědeckých textů.

Finanční podpora

Podpořeno Univerzitou Karlovou (Cooperatio Neuroscience) a Ministerstvem obrany ČR (MO1012).

Konflikt zájmů

Autoři deklarují, že v souvislosti s předmětem studie nemají žádný konflikt zájmů.

mjr. MUDr. Martin Májovský, Ph.D.
Neurochirurgická
a neuroonkologická klinika
1. LF UK a ÚVN – VFN Praha
U Vojenské nemocnice 1200/1
162 00 Praha
e-mail: majovmar@uvn.cz

Přijato k recenzi: 3. 3. 2023
Přijato do tisku: 5. 6. 2023