¿Cuál es la ética de las Máquinas?

1
La Ética de las Máquinas

El transito del deber ser al ser es un camino imposible

David Hume

Mi madre decía que las malas noticias llegaban siempre en periodo de descanso. Pareciera como si se esperara al momento en el que la mente se halla abierta y relajada –desconectada- para que esa vil información pudiera penetrar en nosotros, desgarrando todo lo que se interpusiera en su camino. Cuanto más daño, cuanto más desasosiego, mejor.

Este periodo estival participa de la ilógica reflexión que heredo de mi madre. Un familiar muy cercano y bastante joven, cuya identidad no revelaré por razones obvias, llevaba padeciendo algunas prostatitis derivadas de lo que parecían ser infecciones de orina. El 2 de agosto fue ingresado de urgencia por una obstrucción severa en la uretra, provocándole una septicemia parcial y una glomerulonefritis.

Entre todas las pruebas que le realizaron, se comprobó el nivel en sangre del antígeno prostático específico (PSA). Un antígeno que, entre otros, es indicador de cáncer de próstata. El valor límite de PSA en sangre de una persona sana es de 4 ng/ml. Mi familiar tenía 27 ng/ml. Tras las demás pruebas oportunas, decidieron hacerle una tomografía axial computada (TAC), con gadolinio. El fin: determinar si existía una tumoración, conocer la delimitación de la masa y su posible afectación a otros órganos. El resultado fue la presencia de un adenocarcinoma prostático, en grado 3, eventualmente localizado y con bastantes dificultades de operación.

Tras el preliminar diagnóstico, el equipo nos citó a una reunión. En ella se reunieron: un oncólogo, un cirujano, una anestesista, un nefrólogo, una psicóloga y un urólogo.

La reunión empezó con un silenció tenso, denso y preocupado. Las palabras parecían caer de entre los dientes, sin mover los labios. Conocían a mi familiar, particularmente el cirujano, y sabía de la gravedad del asunto. Hacía 14 años que habíamos pasado por algo similar, y era participe de nuestro periplo por la mitad del planeta.

Una vez que expusieron la posible operación, el cirujano reposó sus manos en la mesa y mirándonos, nos manifestó:

  • Quiero que sepáis algo muy importante. No quiero dar rodeos.
  • Dispara, por favor- le dijimos al unísono los miembros de mi familia.
  • Si no queremos hacerle una prostatectomía radical y una cistectomía gradual, deberíamos utilizar a Da Vinci-, comentó el cirujano sin despeinarse, mirando a al oncólogo.

Tras el gurruño de palabras técnicas que había lanzado el cirujano por la boca sin tan siquiera dejar de mover circularmente una Montblanc entre los dedos índice y corazón de su mano derecha, me salió del hígado decirle:

  • ¿Qué cojones es eso?
  • ¿Da Vinci? – me preguntó con cara de extrañeza, como si hablara del mismísimo Messi.
  • ¡¡Todo!! No hemos entendido nada-, le casi grité.
  • El tumor afecta a una gran parte de la próstata y vejiga. Y tiene comprometidos los conductos seminales. Una cirugía manual, es arriesgada y peligrosa. No solo no podríamos extraer todo el tumor, sino que, desde luego, el paciente quedaría, como mínimo, con una disfunción eréctil absoluta y con incontinencia urinaria total. Todo ello, sin contar que, si el tumor toma el plano superior izquierdo, nos encontraremos con el tronco celíaco tan de cerca que podrá hablarnos en la operación, y eso no me gusta en absoluto- nos explicó de corrido, mirando a todos los presentes.
  • La única opción es que intervenga Da Vinci-, continuó diciendo.
  • ¿Da Vinci? Pero, ¿quién es Da Vinci? -, le pregunté derrotado.
  • Es una maquina cirujana que opera mediante Inteligencia Artificial (IA). Utiliza laser de Holmio que es mil veces más pequeño que la hoja de un bisturí. Tendremos que hacer una biopsia transrectal ecodirigida de la próstata. Y, tras su extracción, la parametrizaremos con escaneo laser de 3D. Con esos datos, será suficiente para que Da Vinci pueda decidir el mejor camino a seguir.

Mientras el médico hablaba de la maquina como si fuera una persona real, algo que me sobrepasaba completamente, no dejaba de pensar en que todo esto ya no era ciencia ficción. El futuro donde el humano es prescindible había llegado. No eran máquinas para potenciar nuestras capacidades innatas, ni siquiera era una suerte de transhumación. La máquina había superado al hombre y no en un juego de ajedrez como hizo en su día Deepblue con Kasparov o AlphaGo con el juego que llevaba su nombre. Se trataba de una vida humana. La integridad física y la vida de mi familiar, deberían estar en las manos de una máquina. Sí o sí. Los médicos nos habían manifestado su incapacidad para llevar a cabo la operación con éxito.

Conocía que la medicina era pasto de las estadísticas, de los sistemas de expertos y, ahora, de la inteligencia artificial. Sabía que las maquinas ya estaban actuando para diagnosticar enfermedades. Mediante el proceso de minería de datos y a través de redes neuronales artificiales profundas, un algoritmo era capaz de identificar qué pacientes tenían cáncer de pulmón en una prueba de cribado con igual o mejor precisión que médicos especialistas. Así, lo demostró la empresa “Google AI”, la división de inteligencia artificial de Google, en Mountain View (EE.UU.). El avance, se publicó en la famosa revista Nature. Sin embargo, el problema no radicaba ahí, sino en el hecho de que, ahora, la maquina decidía. No era un médico quien tomaba la decisión, sino una máquina en base a miles de datos introducidos por humanos, donde a su vez, la máquina había estado aprendiendo ella misma a medida que ejecutaba las operaciones.

En una segunda reunión que tuvimos con el cirujano y el oncólogo, no tuve más remedio que preguntarles por distintas cuestiones:

  • ¿Qué ocurriría si la maquina se equivoca? -, les manifesté a ambos
  • La máquina no puede equivocarse. Es más probable que me equivoque yo que Da Vinci. – me contestó altivo el cirujano.
  • Cómo que no puede equivocarse. ¡Claro que puede! -, exclame.
  • A ver, ¿cumple la maquina con la Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas? – pregunté impertinente a ambos, intentando hacerles ver que tenían delante de ellos a un abogado con conocimientos en derecho sobre inteligencias artificiales, pero que no tenía ni la pajolera idea de cómo manejar la situación.
  • Da Vinci cumple con toda la normativa vigente. No sé si esa resolución de la que hablas es “nueva” o algo. Pero, lo que te puedo decir es que Da Vinci cumple con todas las normas éticas, – me contestó ya de malas maneras.

Entendía que el médico me estaba dando una salida para que mi familiar pudiera vivir, y yo le estaba hablando de aspectos éticos y de normativa europea. Sin embargo, no podía dejar de pensar en qué ocurriría si en el transcurso de la operación, el paciente pudiera sufrir una hemorragia en la que tendría que tomarse una decisión en segundos. Producirse una embolia venosa donde debiera seleccionarse qué vía cortar. Una persona humana podía conocer qué era una vida de calidad, pero ¿una máquina? Si la cosa empeoraba, quien elegiría qué camino adoptar. ¿Se elegiría dejar a alguien postrado en una cama para toda la vida, necesitando a una persona –o a varías- y a una ristra de pastillas para producir excreciones líquidas y calmar el dolor por una sonda de más de 1,5 mm de grosor, introducida desde el pene hasta cerca del retroperitoneo? Sabía que quería a mi familiar vivo a toda costa. El egoísmo en estas circunstancias está presente en cada paso que das. Pero eso, no orillaba el querer saber qué tenía esa máquina en sus bits para conocer quien operaba a mi familiar. Quería saber quiénes le habían enseñado a aprender.

  • Cuando te operaste de la espalda, le preguntaste al cirujano por su vida-, me inquirió el oncólogo.
  • Firmamos un consentimiento informado que casi ni leemos. Y no sabemos si ese día el cirujano está de buen humor o no. Si está triste o alegre. Si se ha peleado con sus hijos o su pareja-, siguió monologando el médico.
  • No sabemos nada, cuando ponemos en sus manos nuestras vidas e integridades. Presuponemos su ética y su moral. Pero no sabemos, si en el sótano de su casa come niños-, dijo sonriendo y mirándome fijamente.
  • Da Vinci ha aprendido mediante factores de error. Por cada error, pierde recompensa y está programada para minimizar este efecto. En cada actuación aprende a evitar para siempre ese error. ¿Hacemos nosotros eso? Sabemos que estamos destruyendo los mares con los plástico y demás contaminantes y, sin embargo, seguimos echándolos al mar, ¿estamos legitimados para exigirle a las máquinas más que a nosotros mismos?, -me preguntó, sabiendo que no tenía respuesta a esa incisiva pregunta.

¿Quiénes habrían metido los millares de datos en las redes neuronales de Da Vinci? ¿Eran buenas personas? Si se dedicaban a la medicina debían de serlo. El porcentaje de éxito de Da Vinci era impresionante. Ver como los médicos observaban a la máquina trabajar te erizaba el pelo. Veías en sus ojos el orgullo de sentir que “algo” era capaz de salvar la vida de “alguien”. ¿Acaso eso no era un acto ético?

Da Vinci estaba entrenada para preservar la vida antes que cualquier otro valor o principio. La máquina no podía responder a un imperativo categórico kantiano, porque ella no se comportaba como un humano. Decidía y ejecutaba. Su forma de actuar, no podía suponer un ejemplo para la humanidad. De poco servía la retahíla de declaraciones formales de derechos y libertades que estaban haciendo las Organizaciones internacionales, como marco ético de la IA, cuando las guerras se libraban con drones militares basados en IA, en donde el daño colateral humano era catalogado como baja vinculada al objetivo de la misión, como había pasado recientemente en Afganistán, tirando por el retrete la Resolución del Parlamento Europeo, de 20 de enero de 2021, sobre inteligencia artificial: cuestiones de interpretación y de aplicación del Derecho internacional en la medida en que la UE se ve afectada en los ámbitos de los usos civil y militar, así como de la autoridad del Estado fuera del ámbito de la justicia pena.  

La ética no es única ni univoca. Como tampoco lo es la moral. Ni puede reducirse a un código de derechos y obligaciones a modo de exégeta francés. Ese fue precisamente el error de la Francia de la Ilustración, creer que todo el derecho cabía en un código. ¿Qué ética se le aplicaría a las maquinas? Si la ética se desarrollaba en el plano del deber ser, la IA debía ser no ya un aliado de los individuos, sino un sujeto de derechos, obligado –programado- a hacer el bien. En caso contrario, estaría sujeto a condena capital, es decir, a su destrucción.

Destinado a hacer el bien, cumpliría con la virtud máxima aristotélica. El bien del “individuo” será el bien de la sociedad y no al contrario, como espetaba el filósofo realista frente a Platón. La IA, aliada de la ética de Spinoza, tendría como principal misión la salvaguardar de la vida y la integridad física del individuo. Asumirse, lo que Eliezer Yudkowski define como volición coherente extrapolable, es decir, una inteligencia artificial amigable. Entrenar a la IA en la parte donde ayude a cohesionar las relaciones sociales y no ha divergirlas.

El utilitarismo de Bentham y Stuart Mill encuentra claros problemas para ser admitido, por ejemplo, en la conducción automatizada. El coche decidirá matar al adulto antes que al niño. A un adulto antes que a dos. Y al propio conductor antes que a una embarazada. Pero ¿esto sería así? Y si el adulto es quien posee la fórmula de la vacuna para acabar con el Covid, ¿su vida debería ser sacrificada antes que la del niño?

El marco de relación ha cambiado y lo que ha buscado siempre el derecho, que no es sino encontrar un centro de imputación de responsabilidades y consecuencias jurídicas por la quiebra de un determinado orden dado como válido por la sociedad, se ha transformado. Era un sujeto no humano –aunque pudiera imitar los sentimientos personales sin diferenciación alguna, como lo demostrara el Test de Turing-, el que iba a decidir la operación a través de un conjunto de redes neuronales sintéticas impresas en silicio de circuito cerrado. Programada con miles de datos introducidos por desconocidos, cuyas éticas me conformaba que fueran las propias de un chimpancé. Pero ¿Cuál era la ética de esa máquina? ¿Tendría una propia? Si decide y aprende, tendría que tener una. La máquina podría hacer una operación tan avanzada que ni siquiera los propios médicos podrían entenderla. Es decir, la máquina podría superar la lex artis conocida hasta ese momento.

Me acordé de las palabras que me habían dejado sobre la mesa de reuniones: “estamos hablando de salvar una vida y tú me hablas de no sé qué normativa”. Quería pensar que no todo vale. Y que no toda vida puede ser vivida. Respirar no es vivir. Las plantas también lo hacen y no son personas humanas.

La operación se programó. Con hora y fecha concreta. Los médicos estarían en una sala contigua supervisando todo el proceso. Observando que Da Vinci, tuviera un buen día.

Ahí estaba toda mi familia. Algunos esperando y otros rezando. Pero ¿a quién rezaban? ¿a una maquina?[1]

[1] El relato es parcialmente ficticio.

1 Comentario

  1. Articulazo. Aunque a decir verdad, tengo el corazón «encogío» tras su lectura. Como todo aquello de lo que ignoro el posible o seguro final, la cuestión o cuestiones planteadas me producen una inquietud de grado sumo. ¿Ética y máquinas igual que agua y aceite?¿O no? Quizás sí si el concepto de máquina es el que tenemos o teníamos hasta ahora. Quizás no tanto si el camino del concepto de esas máquinas toma otros derroteros. ¿Quien lo sabe? Yo no desde luego.

Responder a Alfredo Álvarez Tello Cancelar respuesta

Información básica de protección de datos. Responsable del tratamiento: Fundación esPublico. Finalidad: permitir la publicación de comentarios a los artículos del blog. Base jurídica: consentimiento que se entenderá otorgado al pulsar el botón "Publicar comentario". Destinatarios: público en general, la información que introduzca en el formulario será visible por todos los visitantes del blog. Ejercicio de derechos: de acceso, rectificación, supresión, oposición, limitación y portabilidad a través de dpd@espublico.com o en la dirección postal del responsable del tratamiento. Más información: Política de privacidad