Proposen un marc ètic per a l'ús de la IA en medicina

   VALÈNCIA, 6 Oct. (EUROPA PRESS) -

   Un estudi d'ENGINY, centre del Consell Superior d'Investigacions Científiques (CSIC), i la Universitat Politècnica de València (UPV), proposa un marc ètic per a incorporar la intel·ligència artificial (IA) als sistemes de suport a les decisions clíniques sense desplaçar el judici i la responsabilitat de les persones.

    El treball, publicat en la revista Science and Engineering Ethics, sosté que estos sistemes basats en IA haurien de dissenyar-se com a ferramentes de suport al juí humà. Per a això, proposa aplicar un marc basat en l'ètica discursiva que permeta incorporar la reflexió ètica al procés de presa de decisions.

   Estes ferramentes informàtiques, conegudes com CDSS per les seues sigles en anglès, analitzen informació clínica i oferixen als professionals sanitaris dades, prediccions o recomanacions que poden ajudar-los a prendre decisions sobre el diagnòstic o tractament d'un pacient.

   La seua incorporació a la pràctica mèdica planteja nous interrogants ètics: fins a quin punt ha de seguir-se una recomanació automatitzada en una decisió clínica; com pot justificar-se el resultat oferit per un algorisme; o qui assumix la responsabilitat sobre la decisió final. El respecte a l'autonomia, així com evitar la deshumanització i la dilució de responsabilitat són els grans reptes per a la integració de la IA en les preses de decisions clíniques.

   Segons l'estudi, l'ètica discursiva part de la idea que les normes que afecten a les persones han de poder justificar-se racionalment mitjançant el diàleg i la participació dels qui es veuen afectats per elles. Així ho ha explicat Félix Lozano, investigador d'ENGINY i autor del treball: "Aplicat a l'àmbit clínic, aquest enfocament cerca que les recomanacions generades per la IA puguen ser compreses, qüestionades i valorades dins d'un procés de deliberació humana".

   El treball planteja que la reflexió ètica ha d'estar present des del disseny i desenvolupament d'estos sistemes i mantenir-se durant la seua aplicació. En este procés haurien de participar no només els desenvolupadors de programari, sinó també professionals sanitaris, experts en ètica i les persones afectades per les decisions del sistema, inclosos els pacients.

    "La IA en les decisions clíniques no hauria de valorar-se únicament per la seua precisió o capacitat per a realitzar prediccions", ha afirmat Lozano. El seu disseny, ha afegit l'investigador, ha de garantir que este ferramentes preserven l'autonomia de pacients i professionals i permeten comprendre i qüestionar les recomanacions que generen.

   Perquè els sistemes de suport a les decisions clíniques prenguen decisions ètiques, haurien de funcionar com a ferramentes que faciliten la deliberació i aporten informació rellevant per a prendre una decisió, sense substituir el juí de les persones implicades.

    Les seues recomanacions haurien de ser comprensibles i trazables, de manera que puguen ser avaluades pels professionals sanitaris. La responsabilitat sobre les decisions, d'esta manera, seguiria recaent en els professionals sanitaris, al mateix temps que es preserva l'autonomia informada dels pacients.

   Per a avançar cap a este model, el treball assenyala la necessitat d'incorporar la reflexió ètica durant tot el desenvolupament i aplicació d'estes tecnologies. Això requerix, segons l'autor, un treball interdisciplinari que connecte àmbits com la filosofia moral, l'enginyeria de dades i les polítiques públiques. Esta investigació va comptar amb el suport de la Conselleria de Cultura, Educació i Ciència de la Generalitat Valenciana (CIBEST/2024/270).