Una nova generació d'IA sanitària resilient davant canvis inesperats: Proposta de la UPV

Proposen un model d'IA "resilient" capaç de respondre a situacions inesperades en l'àmbit sanitari

Investigadors de la Universitat Politècnica de València (UPV), adscrits a l'Institut Itaca, han desenvolupat una proposta innovadora per a una nova generació d'intel·ligència artificial (IA) enfocada en la salut, caracteritzada per la seua capacitat de resiliència davant canvis i situacions no controlades en el món real. Aquesta proposta busca millorar la predicció de situacions futures de manera més eficaç i robusta, abordant els desafiaments del seu ús clínic rutinari i els marcs regulatoris associats.

Segons Carlos Sáez, investigador de l'Institut ITACA i professor del Departament de Física Aplicada de la UPV, aquesta nova generació d'IA destaca per la seua adaptabilitat i fiabilitat en contextos d'incertesa i canvi, així com davant sesgos en la informació. Aquestes són situacions habituals en l'ús real de la IA en salut, fora dels entorns controlats de laboratori on són dissenyades originalment. El treball dels investigadors de la UPV ha sigut publicat en el 'Journal of Medical Internet Research', una de les revistes més reconegudes a nivell internacional en el camp de la medicina digital.

El nou paradigma d'IA proposat per l'equip del BDSLab de l'ITACA-UPV cobreix les quatre fases essencials de la intel·ligència artificial: l'entrenament (l'aprenentatge a partir de dades), la predicció (aplicació a nous casos no observats prèviament), l'entorn de producció (manteniment de la IA una vegada està en ús rutinari) i la regulació (lleis i normes que garanteixen la seguretat i confiança en la IA). Aquest model s'adapta de manera resilient a canvis tant tècnics com socio-sanitaris, permetent una resposta ràpida i eficaç davant situacions inesperades com les pandèmies. A més, assegura la confiança dels usuaris i el respecte als drets fonamentals de les persones.

Millora de la confiança i seguretat en la IA sanitària

Sáez destaca que aquesta IA resilient té un impacte directe en la millora de la confiança i la seguretat dels sistemes d'intel·ligència artificial en l'àmbit de la salut, beneficiant així la presa de decisions clíniques basades en dades per a milions de persones a Europa. Aquest nou enfocament permetria mantindre els models d'IA actualitzats, evitant l'obsolescència, i adaptar-se ràpidament als canvis, reduint costos i riscos. També facilita el suport interactiu a la presa de decisions amb control de riscos mèdics i de drets fonamentals, basat en tècniques d'IA robusta i ètica, optimitzant així l'enllaç i la confiança entre humans i IA.

Com a exemple pràctic, els investigadors assenyalen que aquest nou paradigma d'IA podria ajudar a prioritzar de manera més òptima i fiable els incidents en un centre d'atenció d'emergències sanitàries, optimitzant en temps real les preguntes realitzades durant les trucades. En casos d'alta incertesa, el sistema suggeriria a l'operador demanar informació addicional al cridant per millorar la fiabilitat de la resposta, assegurant-se de cobrir tots els possibles sesgos en la informació.

Aquesta investigació s'emmarca en el projecte "Modelling the Kinematics of Information towards Change-Resilient Medical Artificial Intelligence (Kinemai)", finançat per l'Agència Estatal d'InvestigacióqProjectes de Generació de Coneixement 2022. A més, part dels resultats obtinguts seran estudiats en una nova assignatura del nou Màster en Enginyeria Biomèdica, anomenada "Data Quality and Trustworthy Artificial Intelligence".