¿Qué sucede cuando la Inteligencia Artificial que se supone que tiene que ayudar a curarte, se vuelve loca y trata en realidad de matarte? Éste suceso ha ocurrido en un hospital de Dinamarca cuando uno de los nuevos sistemas Watson de IBM se equivocó por completo en los tratamientos para los enfermos y sugirió otros que los hubieran matado.
No sé vosotros, pero a mi todo el tema de la Inteligencia Artificial es algo que me pone bastante nervioso. Quizás haya visto demasiadas veces las películas de Terminator o de Matrix. O quizás crea que debe de existir un límite para que dejemos de creernos dios. Y mira que soy de los primeros que pueden ver las innegables ventajas que puede traer ésta a la sociedad. Aunque también puedo ver sus desventajas.
Por ejemplo, que un médico se equivoque en un tratamiento es algo realmente nefasto. Pero ¿qué sucede si quien se equivoca es una máquina? Se supone que las máquinas no deberían de cometer errores. Aunque estando programadas por humanos, siempre puede darse algún tipo de error en su programación. El problema es que este tipo de errores, podrían llegar a matarte sin que tu lo supieras. Habiendo confiado en el diagnóstico de una máquina que se presupone no es tan propensa a dichos errores.
El Hospital Nacional de Dinamarca ha aprendido que la Inteligencia Artificial no es tan infalible como parece
En el Hospital Nacional de Dinamarca se está llevando a cabo desde hace un tiempo un experimento con la Inteligencia Artificial Watson, desarrollada por IBM. Dicha IA sugiere tratamientos para los pacientes en función del historial médico del mismo, a parte de contrastar sus datos con una inmensa base de datos de estudios científicos disponibles de manera on line.
Lo que los médicos han descubierto es que a esta IA no se le puede dejar sola. Al menos en lo que respecta al área de las enfermedades de tipo canceroso. Dado que de una muestra de 31 enfermos, mientras que para las dos terceras partes, Watson recomendó el tratamiento correcto… para la última parte, se recomendaba una medicación que habría acabado matando al paciente. No hablo de que se equivocara en un tratamiento. Hablo de equivocarse en 10 tratamientos. Ese es un margen de error que no es aceptable cuando hablamos de la vida de las personas.
Está claro que la IA nos facilita y facilitará la vida. Pero también es verdad que ésta está todavía demasiado verde como para que enga algún tipo de preponderancia en nuestra sociedad actual. Aunque al ritmo que avanza este campo, no sé yo qué va a suceder.
