Klaidinga diagnozė – gydytojo, gydymo įstaigos ar dirbtinio intelekto atsakomybė?

Komentaro autorius – Algirdas Misevičius, advokatų kontoros WIDEN vadovaujantis teisininkas, advokatas 

Dirbtinis intelektas medicinoje jau nebėra ateities vizija. Jis padeda analizuoti tyrimų rezultatus, vertinti rizikas ir net siūlyti galimas diagnozes. Tačiau svarbus ne tik klausimas, ką technologija gali padaryti, bet ir kas atsako už jos veikimo pasekmes. Pavyzdžiui, dirbtinis intelektas nustatė diagnozę, tačiau ji buvo klaidinga, ir dėl to pacientas patyrė žalą. Kas už tai atsako? Gydytojas, gydymo įstaiga, technologijos kūrėjas? Ar įstaiga turėjo teisę naudoti tokią priemonę? Kai DI rekomendacija tampa gydymo sprendimo dalimi, atsakomybės grandinė gali pasirodyti gerokai sudėtingesnė, nei iš pirmo žvilgsnio atrodo.

Specialisto vaidmuo negali būti formalus

ES Dirbtinio intelekto akto (DI akto) – Reglamento (ES) 2024/1689 – nuostatos aktualios ir medicinos sektoriui. Vienas iš esminių DI akto reikalavimų, taikomų didelės rizikos DI sistemoms, yra veiksmingos žmogaus vykdomos priežiūros užtikrinimas. Taigi didelės rizikos DI sistemos, kurių teikiama informacija gali turėti reikšmingą poveikį gydytojo priimamiems diagnostikos ar gydymo sprendimams, turi būti projektuojamos taip, kad jų veikimą galėtų veiksmingai prižiūrėti žmogus. Praktiškai tai reiškia, kad žmogui turi būti sudarytos sąlygos suprasti sistemos galimybes ir ribas, tinkamai interpretuoti jos rezultatą ir, kai reikia, nesivadovauti sistema ar įsikišti į jos veikimą.

Medicinoje tai ypač svarbu. Reguliavimo logika nėra tokia, kad gydytojas turėtų mechaniškai vykdyti algoritmo komandą. Priešingai – žmogaus kontrolė turi išlikti prasminga. Tačiau tai sukuria pareigų ne tik gydytojui, bet ir įstaigai, kurioje jis dirba. Jeigu gydymo įstaiga įdiegia sistemą, kurios gydytojas praktiškai negali suprasti ar tinkamai kontroliuoti arba kurios apribojimų nėra išmokytas atpažinti, problema gali būti ne vien individualus gydytojo sprendimas, bet ir netinkamai organizuotas DI naudojimas gydymo įstaigoje.

Asmens sveikatos priežiūros įstaigai tenka pareiga ne tik naudoti teisės aktų reikalavimus atitinkančias priemones, bet ir užtikrinti tinkamą jų naudojimą. Sveikatos priežiūros įstaiga, naudojanti DI sistemą savo profesinėje veikloje, paprastai pateks į DI akte apibrėžtą DI sistemos diegėjo sąvoką. Todėl ateities ginče gali būti vertinama ne tik tai, ką padarė konkretus gydytojas, bet ir tai, ar įstaiga tinkamai pasirinko sistemą, ar ji naudojama pagal paskirtį, ar gydytojai tinkamai apmokyti, ar paskirti asmenys, galintys užtikrinti žmogaus vykdomą priežiūrą, kas daroma, kai gydytojo ir algoritmo išvados nesutampa, ar stebimas sistemos veikimas ir kaip reaguojama į incidentus.

Todėl DI diegimas ligoninėje neturėtų būti vertinamas vien kaip informacinių technologijų projektas. Tai kartu yra pacientų saugos, klinikinės rizikos ir teisinės atsakomybės klausimas. Neabejotinai tai komplikuoja ir galimos atsakomybės vertinimą.

Lietuvos teisėje „kas kaltas?“ ir „kas atlygins žalą?“ – skirtingi klausimai

Lietuvoje šį klausimą papildomai komplikuoja nuo 2020 m. veikiantis paciento sveikatai padarytos žalos atlyginimo nevertinant sveikatos priežiūros įstaigos kaltės modelis.

Lietuvos Aukščiausiasis Teismas (LAT) 2023 m. birželio 15 d. nutartyje civilinėje byloje Nr. e3K-3-24-421/2023 išaiškino, kad teisei į paciento sveikatai padarytos žalos atlyginimą atsirasti būtina nustatyti tris sąlygas:

1. paciento sveikatai padaryta žala;
2. žala nebuvo neišvengiama;
3. sveikatos priežiūros paslaugas ir žalą sieja priežastinis ryšys.

LAT pabrėžė, kad gydymo įstaigos kaltė nėra būtina sąlyga, o įstatymas nereikalauja nustatyti ir neteisėtų sveikatos priežiūros įstaigos veiksmų kaip savarankiškos žalos atlyginimo sąlygos. DI atveju tai gali turėti didelę praktinę reikšmę. Pacientui, siekiančiam žalos atlyginimo pagal šį modelį, nebūtinai pirmiausia reikėtų atsakyti į klausimą, kas kaltas – gydytojas ar algoritmas.

Tačiau tai nereiškia, kad atsakomybės problema išnyksta. Vis tiek būtina įvertinti žalos išvengiamumą ir priežastinį ryšį, o žalos atsiradimo aplinkybės gali būti reikšmingos sprendžiant kitus su atsakomybe susijusius klausimus. Kituose teisiniuose santykiuose gali kilti gydymo įstaigos, gamintojo, draudiko ar kitų subjektų atsakomybės bei regreso klausimų. Atskirai gali kilti ir profesinės, administracinės ar – išimtiniais atvejais – baudžiamosios atsakomybės klausimai.

Viena DI klaida medicinoje potencialiai gali sukurti ne vieną, o kelis skirtingus teisinius santykius. Todėl asmens sveikatos priežiūros įstaigos, diegdamos DI priemones, tam turėtų skirti ypatingą dėmesį.

O jeigu problema slypi išimtinai pačiame algoritme?

Ne visais atvejais gydytojo ar įstaigos, kurioje jis dirba, veiksmai bus pagrindinė kilusios problemos priežastis. Gydytojas gali sistemą naudoti tinkamai, o klaida gali slypėti pačioje priemonėje – jos programinėje įrangoje, mokymui naudotuose duomenyse, atnaujinime ar techniniame sistemos veikime. Taigi nustačius aplinkybes, leidžiančias konstatuoti, kad DI veikė netinkamai ir pateikė klaidingas išvadas, gali kilti ir tokios programinės įrangos gamintojo atsakomybės klausimas.

Šiuo požiūriu reikšminga naujoji Direktyva (ES) 2024/2853 dėl atsakomybės už gaminius su trūkumais. Ji modernizuoja produktų atsakomybės režimą, pritaikydama jį skaitmeninei ekonomikai, ir į jo taikymo sritį įtraukia programinę įrangą.

Vis dėlto Direktyvoje nustatytas pereinamasis laikotarpis: valstybės narės ją turi perkelti į nacionalinę teisę iki 2026 m. gruodžio 9 d., o naujasis režimas taikomas produktams, pateiktiems rinkai arba pradėtiems naudoti po 2026 m. gruodžio 9 d.

Todėl šiuo metu negalima teigti, kad naujasis produktų atsakomybės režimas jau visa apimtimi taikomas visoms rinkoje esančioms medicinos DI sistemoms. Tačiau kryptis aiški: programinės įrangos trūkumas nebėra tai, kas savaime lieka už produkto atsakomybės režimo ribų.