ROBOTS AUTÓNOMOS INTELIGENTES Y DERECHO CIVIL.
REFLEXIONES AL HILO DE LAS RECOMENDACIONES DEL PARLAMENTO EUROPEO A LA COMISIÓN SOBRE NORMAS DE DERECHO CIVIL SOBRE ROBÓTICA.
Por Pedro J. Maldonado Ortega. Notario de Navas de San Juan (Jaén).

La inteligencia artificial y sus retos éticos.

El extraordinario avance de la tecnología nos permite asistir -hoy- a uno de los mayores desafíos de la humanidad. Algo que está ya afectando a sectores clave, como la salud, la industria, la comunicación, el transporte... Un reto de la mayor de las magnitudes porque el auge y desarrollo que ha experimentado en la actualidad la inteligencia artificial, ha logrado la creación de cada vez más complejas máquinas que pueden ya adoptar decisiones propias al interectuar con el entorno.

Aparatos como los automóviles autónomos, los robots quirúrgicos o asistenciales, los drones o las inteligencias artificiales capaces de generar obras protegidas por derechos de autor, abren unos debates, como siempre ha ocurrido con cada nueva tecnología, sobre todo de tipo ético:

- ¿quién responderá del daño patrimonial o personal causado por un automóvil autónomo? ¿Cómo ha de ser el diseño de esta máquina para que sea ético? Por ejemplo, cuando semejante inteligencia deba tomar una decisión que implique -en caso de accidente de tráfico- elegir entre cuál daño mortal causar: al pasajero del vehículo o a la persona que transita por la vía.

- ¿Puede un robot asistencial llegar a sustituir a una persona humana en la prestación de cuidados o de dar compañía? ¿Debe una máquina avanzada, capaz de comunicar e interactuar con una persona humana dependiente, permitir que dicha persona vulnerable llegue a desarrollar sentimientos emocionales y sentir apego? Sustituir a la persona humana por el robot podría deshumanizar la prestación de cuidados.

- ¿Debe exigirse al personal sanitario -médico, auxiliares, etc...- que maneja un robot quirúrgico para la intervención en el cuerpo humano, o para la rehabilitación, etc..., que demuestre su competencia para el manejo de dicha máquina?; Y a los usuarios... ¿debe exigírsele formación en orden a familiarizarse con los requisitos tecnológicos en este ámbito?

- Dado el ahorro de tiempo y costes -incluidos los laborales, fiscales y de las cotizaciones sociales- que supone a la industria la utilización de robots cada vez más sofisticados, en detrimento del empleo, ¿debe considerarse por los Estados obligar a las empresas a cotizar en función del ahorro de costes o introducir el mismo Estado una renta básica universal? ¿Debe informar la Empresa al Estado del número de robots inteligentes que utilizan y suministrar los datos económicos del ahorro en cotizaciones por utilizar personal electrónico y no humano, o de los beneficios directamente obtenidos por el uso de robots inteligentes?

- En sede de diseño de estos artefactos, los ingenieros y diseñadores en robótica tienen ciertos desafíos éticos; en particular, la responsabilidad de desarrollar y aplicar procedimientos para garantizar el consentimiento válido, la confidencialidad, el anonimato, el trato justo y el respeto de la legalidad.
El actual e insuficiente marco jurídico relativo a la protección y la propiedad de los datos es motivo de gran preocupación debido al flujo (previsiblemente masivo) de datos procedentes de la utilización de la robótica y la inteligencia artificial.
Es fundamental:
- conservar la información privada con total seguridad,
- garantizar que los individuos no son plenamente identificables salvo circunstancias excepcionales,
- solicitarse y recabarse de la persona humana, antes de su interacción con la máquina, un consentimiento consciente... ¿Puede la máquina inteligente llegar a sustituir a la especie humana en la recepción de un consentimiento de este carácter?
- poder de control de la máquina: implantar modelos de reversibilidad, que indican al aparato qué acciones son reversibles y el modo de invertirlas, para permitir al usuario anular las acciones no deseadas y volver a la fase "buena" de su trabajo. El llamado "botón de la muerte".

El Parlamento europeo, a través de este Informe, pide a la Comisión:
- que en sus políticas garantice la intimidad y la protección de datos, conforme a los principios de necesidad y proporcionalidad... y
- normas sobre
· protección de la intimidad,
· protección de datos,
· consentimiento informado.
· cifrado...

El status jurídico del robot. La conveniencia de una nueva categoría: la "persona electrónica".

Estos son solo algunos retos éticos, pero me gustaría centrarme en el tema del status jurídico del robot: ¿deben los robots tener personalidad jurídica?
Este tema se ha suscitado por el daño patrimonial o personal que puede causar una máquina de características tan avanzadas que permitan la adopción por la misma de decisiones independientes dado el desarrollo tecnológico de rasgos cognitivos y autónomos, los llamados "robots autónomos inteligentes"; el informe del Comité de Asuntos Jurídicos del Parlamento Europeo recuerda que hoy por hoy -desde el punto de vista estrictamente jurídico- un robot es una cosa. Y propone a la Comisión que elabore una Directiva sobre reglas de Derecho Civil en materia de robótica.

Hay, entonces, algunas preguntas sobre la mesa:
1ª.- ¿Debe incluirse a estos robots autónomos en alguna de las categorías jurídicas tradicionales?: Personas, semovientes, cosas...

2ª.- ¿Debe crearse una categoría específica, como por ejemplo "persona electrónica", junto a las categorías de persona física o persona jurídica, a efectos de determinar el status de los robots avanzados y definir de esta manera sus derechos y obligaciones, incluida la obligación de reparar el daño que pudieran causar? La pregunta está abierta, si bien lo que está claro es que habrá que ir redefiniendo el marco jurídico en función de los avances tecnológicos que se produzcan realmente. Actualmente el desarrollo tecnológico parece imparable; el derecho deberá irse adaptando a las novedades.
La "inteligencia", aunque sea artificial, es lo que parece dar pie a la creación de la nueva categoría jurídica de "persona electrónica", a medio camino entre la especie humana persona física, la persona jurídica, y las cosas. ¿Cuándo puede decirse que un artefacto pasa de la categoría de "cosa" a la de "persona"? En función de su autonomía e inteligencia... en función del desarrollo tecnológico y las posibilidades interactivas de la máquina.

La responsabilidad objetiva por daños.

En cualquier caso, en el marco jurídico actualmente vigente, cuando un robot genera un daño -por acción u omisión- la determinación de la responsabilidad requiere identificar una persona humana a quien imputar dicho daño:
· el fabricante de la máquina.
· el dueño de la máquina.
· el usuario de la máquina.

Unas veces se aplica el principio de responsabilidad subjetiva, basado en la culpa del agente, que manejó imprudentemente la máquina. O el sistema de responsabilidad objetiva, basada únicamente en la existencia probada tanto del daño como de la relación de causalidad entre el defecto de la máquina y dicho daño. Este Informe subraya que la normativa vigente solo contempla el caso de responsabilidad extracontractual por productos defectuosos (a nivel europeo es la Directiva 85/374/CEE del Consejo, de 25 de julio de 1985; en España su trasposición se llevó a efecto a través de una ley especial, la Ley 22/1994, de 6 de Julio, hoy refundida en el TRLDCU 1/2007), basado en este principio de responsabilidad objetiva o por daño.

Pero el marco jurídico actual no sería suficiente para cubrir los daños causados por la nueva generación de robots, en la medida en que se les puede dotar de capacidades de adaptación y aprendizaje que entrañan un cierto grado de imprevisibilidad en su comportamiento, ya que podrían aprender de forma autónoma de su propia experiencia variable e interactuar con su entorno de forma única e imprevisible.

En este sentido, en principio se podría intentar determinar el agente humano últimamente responsable del daño causado. Es una tarea ardua y compleja pues depende del grado de "inteligencia" de la máquina, de su capacidad de aprender autónomamente, y de la "educación" recibida por ésta; así, cuanto mayor sea la capacidad de aprendizaje autónomo de una máquina, mayor sería su responsabilidad en la producción del daño; y, al mismo tiempo, cuanto menor sea la capacidad de la máquina de aprendizaje autonómo y, por tanto, mayor sea la intervención de un "profesor" humano, menor sería su responsabilidad del ingenio, y mayor la del agente humano.

En cualquier caso, dada la dificultad de esta prueba, se considera conveniente establecer un sistema de responsabilidad objetiva, o basada en el daño causado por el robot, en el que únicamente habría de probarse la existencia del daño y el nexo causal entre el comportamiento prejudicial del robot y dicho daño. Y complementar este sistema con un seguro obligatorio, a suscribir por el fabricante de robots autónomos, y un fondo para garantizar la reparación de daños en los casos de ausencia de una cobertura de seguro (al que contribuirían -limitando así su responsabilidad- el fabricante, el programador, el propietario y el usuario de la máquina).

Vehículos autónomos y problemas de Derecho Internacional Privado.

En el sector específico de los automóviles autónomos es donde más se deja sentir la necesidad de una normativa común europea, que permita la comercialización transfronteriza de tales vehículos, minimizando los conflictos de derecho internacional privado que el desarrollo y venta de estos riesgosos artefactos provoca.

Si bien las actuales normas de Derecho internacional privado en materia de accidentes de tráfico aplicables dentro de la Unión no necesitan modificarse urgentemente para adaptarlas al desarrollo de los vehículos autónomos, dice el informe del Parlamento Europeo que la simplificación del sistema dual con el que se determina actualmente la legislación aplicable (basado en el Reglamento (CE) n.º 864/2007 del Parlamento y el Convenio de La Haya de 1971 sobre la ley aplicable en materia de accidentes de circulación por carretera) mejoraría la seguridad jurídica y limitaría las posibilidades de búsqueda del foro más favorable.

Otras consideraciones y propuestas del Informe del Parlamento europeo.

Ante todas estas cuestiones, lo primero que considera el Parlamento en su informe es definir a nivel europeo el concepto de "Robot autónomo inteligente" y sus subcategorías, basándose en los siguientes elementos:

1º.- Adquiere autonomía mediante sensores y/o mediante el intercambio de datos con su entorno (interconectividad), e intercambia y analiza datos,
2º.- Dispone de capacidad de autoaprendizaje (criterio facultativo),
3º.- Tiene un soporte físico,
4º.- Adapta su comportamiento y acciones al entorno;

Asimismo, propone la creación de un Registro de robots avanzados, especificando cuáles de estas máquinas debieran registrarse y cuales no.

Por otra parte, es fundamental un marco ético que sirva de referente en el diseño, la producción y el uso de los robots, que complemente las recomendaciones jurídicas, basado en los principios de:
- beneficencia: los robots deben actuar en beneficio del hombre.
- no maleficiencia: los robots no deberían perjudicar a las personas.
- autonomía: preservar la capacidad de tomar una decisión con conocimiento de causa e independiente sobre los términos de interacción con los robots.
- justicia: por ejemplo, la distribución justa de los beneficios asociados a la robótica y la asequibilidad de los robots utilizados en el ámbito de la asistencia sanitaria a domicilio y de los cuidados sanitarios en particular.

- Principios consagrados en la Carta de los derechos fundamentales de la Unión:
- dignidad humana y derechos humanos.
- igualdad.
- justicia y equidad.
- no discriminación y no estigmatización.
- autonomía y responsabilidad individual.
- consentimiento informado.
- privacidad.
- responsabilidad social.

En el concreto marco sanitario/ hospitalario pide que se establezcan comités de ética sobre robótica en los hospitales y otras instituciones sanitarias, encargados de examinar y contribuir a resolver problemas éticos inusuales y complejos relacionados con cuestiones que afectan al cuidado y tratamiento de los pacientes.

Y también propone la creación de una Agencia Europea para la Robótica y la Inteligencia Artificial, para apoyar la labor de los agentes públicos pertinentes, dotado de un presupuesto adecuado al efecto y de personal experto en reglamentación, técnica y deontología.

Por último, el Informe proporciona también:
Una Carta sobre robótica que complemente las normas que en un futuro próximo emanen de las instituciones europeas, para permitir que estos sistemas funcionen de una manera éticamente responsable; estas normas éticas afectan tanto a los ingenieros como a los diseñadores, etc..
Un Código Deontológico para los Comités de Ética de la Investigación.

Desafíos éticos. Nuevas categorías jurídicas propuestas, la "persona electrónica". Nuevas preguntas que requieren sentido común en la elaboración de sus respuestas para lograr un uso moral -el mejor uso, un uso ético- de los novedosos instrumentos creados por el hombre. Para el hombre.