Científicos crearon una Inteligencia Artificial fiscal para acusar personas con precisión

Científicos chinos han dado un complejo paso entre el mundo de la tecnología y el judicial. China ha desarrollado un fiscal de Inteligencia Artificial que puede acusar a las personas de delitos con más del 97% de precisión basándose en una descripción verbal del caso, afirman los investigadores.

La IA puede sugerir sentencias para supuestos criminales, sacando a las personas del proceso de enjuiciamiento.

La herramienta puede presentar una acusación basada en una descripción verbal del caso y fue construida y probada por la Fiscalía Popular de Shanghái Pudong, la fiscalía de distrito más grande y más concurrida de China.

Esta IA permitiría a los fiscales humanos aliviar su carga de trabajo y les permitiría centrarse solo en los casos más complejos, según el científico principal del proyecto, el profesor Shi Yong. “El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto”, explicó el profesor.

Sin embargo, se teme que el Partido Comunista Chino pueda utilizar el sistema como arma con fiscales humanos preocupados por quién asumirá la responsabilidad de las decisiones de Inteligencia Artificial.

El sistema puede ejecutarse en una computadora de escritorio regular y presentaría cargos basados en 1000 rasgos del texto de descripción del caso generado por humanos.

La IA fue entrenada usando 17.000 casos de la vida real desde 2015 hasta 2020 y es capaz de identificar y presentar cargos por los ocho delitos más comunes en Shanghái, los cuales incluyen “provocar problemas”, un término utilizado para reprimir la disidencia en China de acuerdo con el South China Morning Post. Entre estos delitos se encuentran el fraude con tarjetas de crédito, los delitos de juego, la conducción peligrosa, el robo, el fraude, las lesiones intencionales y la obstrucción de los deberes oficiales.

Se espera que en el corto plazo pueda reconocer más tipos de delitos y presentar varios cargos contra un sospechoso una vez que se actualice.

Si bien ya existía la tecnología de Inteligencia Artificial en las fuerzas judiciales, esta sería la primera vez que se involucra en la presentación de cargos. Los fiscales en China ya usan una herramienta de Inteligencia Artificial para evaluar evidencia y analizar qué tan peligroso es un sospechoso para el público

Muchos fiscales chinos emplean en su trabajo una herramienta de IA llamada System 206 que puede evaluar la solidez de una prueba, las condiciones para un arresto y la peligrosidad de un sospechoso. Pero este tipo de herramientas “no participan en el proceso de toma de decisiones, imputaciones o sugieren sentencias”, advierte Shi Yong.

También es pertinente nombrar el caso de Alemania, en donde el reconocimiento de imagenes y el análisis forense digital se utilizan para ayudar con la carga de casos.

Con este nuevo avance en Inteligencia Artificial en el mundo judicial, China busca impulsar la productividad de sus instituciones y prevenir la corrupción, explican los científicos. 

Sin embargo, esto no significa que no haya problemas con esta tecnología. La Inteligencia Artificial puede ayudar a detectar un error pero no puede sustituir a los humanos en la toma de decisiones. El humano, a diferencia de una IA, puede adaptarse a las cambiantes normas sociales y evaluar adecuadamente el contexto de cada caso.