Silvia Barona aboga por incorporar juristas y éticos en el diseño de la inteligencia artificial

La tecnología y la digitalización están afectando a la sociedad, a la economía, a la medicina, a todos los órdenes de la vida. También a la justicia y, necesariamente, “tendrá que crearse una relación de reciprocidad entre algoritmos, inteligencia artificial (IA) y el mundo del derecho”, ha asegurado, Silvia Barona, catedrática de Derecho Procesal de la Universitat de València, presidenta de la Corte de Arbitraje y Mediación de la Cámara de Comercio de Valencia y de la Asociación Alexander von Humboldt de España, en el XXXI Seminario Permanente de Ética Económica y Empresarial de Étnor que este curso se titula “Inteligencia artificial: ¿Oportunidad o amenaza para la democracia?”

En su conferencia “Inteligencia artificial y justicia ¿el comienzo de una gran amistad?”, Barona ha analizado la irrupción de los algoritmos y la incorporación de la IA en la justicia. En un principio, la tecnología se convirtió en un instrumento para alcanzar el objetivo “papel cero” y una justicia más eficiente. Esa tecnología instrumental ha dado paso, paulatinamente, a la “más preocupante” tecnología funcional, de modo que las herramientas digitales han comenzado a asumir, de forma complementaria, funciones que antes eran competencia exclusiva de los operadores jurídicos humanos. La evolución continua y ya se conocen, en algunos países y para determinados asuntos, los sistemas algorítmicos decisores, “los jueces-robots”. “Dependerá de nosotros hasta dónde pueda llegar esta transformación del paradigma de justicia”, asegura Barona.

 

La conferencia, que ha tenido lugar en la sede de la Confederación Empresarial de la Comunitat Valenciana (CEV), ha sido presentada por Pedro Coca y Adela Cortina, presidente y directora académica de Étnor.

 

Tecnología instrumental

 

La tecnología instrumental supuso el abandono de la “justicia de manguitos” y la bienvenida a una justicia digital algorítmica más eficiente, sostenible, transparente y accesible. Pero esta “metamorfosis digital” también presenta sus riesgos, y, entre ellos, Barona se ha referido a la doble brecha que se produce entre ricos y pobres y entre personas analógicas y digitales.

 

Además, apunta la ponente, hay que tener en cuenta la obsolescencia de los sistemas tecnológicos, así como los sesgos y su efecto en los derechos fundamentales de las personas. “Tenemos ejemplos que ponen de manifiesto que estos sistemas, si no se controlan bien, pueden incurrir en sesgos que afectan al principio de igualdad por razón de género, de raza, de status social, económico, ideológico o religioso”, advierte Barona. Afecta, también a la protección de datos y al derecho a la intimidad y la privacidad de las personas y puede alterar la capacidad humana y la interacción del ser humano. Asimismo, y desde la perspectiva política, los sistemas algorítmicos afectan a la gobernanza democrática por la manipulación y las personalidades digitales superpuestas. Y, en lo que se refiere al ámbito del derecho y las garantías de la justicia, “¿dónde queda el derecho de defensa?”, se pregunta Barona, “¿cómo contrarrestar la opinión neutral de un sistema algorítmico?”.

 

Algoritmos, IA y justicia

 

Existen sistemas analíticos que procesan centenares de documentos, sentencias y extraen información estadística clave, explica Barona. Otros sistemas permiten revisar documentos, redactar un contrato, hacer auditorias jurídicas, y la posibilidad de redactar demandas para procesos judiciales y arbitrales. Hay softwares que ofrecen argumentación jurídica y analizan la casuística anterior, precedentes y estrategias, e incorporan la predictibilidad de éxito o fracaso. Los hay también que realizan tareas de planificación, organización y coordinación de las agendas de jueces, fiscales, policía, abogados y procuradores. Otros sistemas algorítmicos permiten realizar predicciones económico-financieras, de redacción control y valoración legislativa que detectan, además, las contradicciones legislativas. “Los grandes damnificados son los asistentes, el personal auxiliar, que tienen la posibilidad de convertirse en imprescindibles conociendo el manejo de estas herramientas”, explica Barona.

 

Funcionan ya inteligencias artificiales que resuelven en línea conflictos, sobre todo en el ámbito del consumo, y sistemas que trabajan con la prevención de hechos delictivos, la investigación y la argumentación del proceso penal y en todos los órdenes jurisdiccionales, apunta Barona.

 

“Me parece imposible la idea de crear una maquina que piense exactamente igual que un ser humano” concluye Barona. En su opinión, las grandes cuestiones que centran el debate tienen que ver con quién alimenta el pensamiento de la máquina; con si podrá exigirse responsabilidad al robot, o si cabrá recurso a su sentencia; si el trabajo que realiza la máquina tendrá cargas fiscales o si se podrá desactivar el sistema si es pernicioso para la humanidad.

Silvia Barona ha concluido su intervención aludiendo a algunas cuestiones sobre la aplicación de estos sistemas algorítmicos a la justicia en los que ya trabaja la UE. Entre ellos, la necesaria evaluación previa de los sistemas, la eliminación de los sesgos o la protección de datos personales. Barona ha puesto sobre la mesa la necesidad de establecer sistemas de control y la garantía de la acción humana en estas supervisiones, así como la incorporación de juristas y éticos en el diseño de la IA y la capacitación de los operadores jurídicos en estos sistemas sin perder la capacidad crítica y de interpretación del ser humano.