REVISTA DE INGENIERIA DYNA

Se están estableciendo y fortaleciendo la clasificación de perfiles sociales, la predicción de delitos según tu procedencia, edad y profesión, o la concesión de un préstamo bancario en función de otra serie de variables.

En este artículo pretendo demostrar uno de esos algoritmos. Como se podrá ver, la matemática es de extrema sencillez, pero las implicaciones de la fórmula que generan son de una importancia vital para el afectado.

Desde 2007, cuando una mujer acude con un problema de violencia de sexo, la policía le pide que rellene un cuestionario. Posteriormente, el agente de la autoridad rellena a su vez otro formulario distinto, ya que en muchas ocasiones la víctima no es capaz de responder fría y objetivamente.

Tras este sencillo trámite, se comprueban las respuestas de los dos test, y se calcula la evaluación del riesgo de esa mujer de volver a ser atacada. Concretamente, la fórmula arroja 5 resultados posibles: no apreciado, bajo, medio, alto y extremo. A ese procedimiento se le llama VPR (Valoración Policial de Riesgo) ¿Cómo se ha obtenido esa caja negra para calcular esa variable?

Para descubrir eso, los investigadores responsables de este algoritmo publican periódicamente distintos artículos científicos para explicar la metodología y las conclusiones [1] [2]. En ellos, se detallan el tamaño de muestra de las mujeres, el período en el que se formó esa muestra y los plazos que se han empleado para comprobar la bondad de la predictibilidad del algoritmo. El procedimiento habitual es tomar como grupo de estudio las mujeres que denunciaron durante dos o tres meses del año, realizarles una evaluación de su situación de riesgo y comprobar en un estudio longitudinal durante unos 10 meses si el algoritmo VPR acertó o no.

En primer lugar, se está desarrollando una herramienta que afecta de manera directa a la vida de una persona, mediante encuestas. En segundo lugar, la muestra de las mujeres en el estudio es muy pequeña para elaborar un modelo robusto de predicción. Por último, esas mismas mujeres sirven para validar el método. No se realiza una validación cruzada con otra muestra de víctimas.

Actualmente, tras una serie de actualizaciones, el protocolo VPR está en su versión 5.0, pero los resultados en artículos científicos están publicados hasta la versión 4.0 [2], por el momento. Sin embargo, en ese artículo se reconoce que a este sistema aún le queda un largo recorrido de mejora, y en ocasiones, tiene una ratio de acierto similar al del puro azar. Como ejemplo:

‘La capacidad predictiva de VPR […] resulta difícil de mejorar en gran medida debido a que en muchas ocasiones los agentes tienen que realizar valoraciones rápidas con escasa información, eventualidad que en la práctica resulta limitante’.

‘Los parámetros de rendimiento, similares a los obtenidos en la creación del instrumento, están próximos a los valores medios obtenidos en otras herramientas: 0,618 dela DA; 0,63 de la SARA; 0,67 de la ODARA, o 0,69 de la EPV-R.’

Este protocolo no es inteligencia artificial, ya que no aprende de los errores ni se actualiza. Distintas comunidades autónomas han elevado la voz contra los fallos de este algoritmo y ha sufrido algunas actualizaciones. Pero como se puede ver, la vida de esas mujeres está en manos de una matemática caprichosa.

Afortunadamente, se cuenta que este formulario peca de conservador y ‘exagera’ las situaciones de riesgo [3]. ¿Pero cómo podemos saber en cuántas ocasiones está fallando y acertando en la actualidad?

Bibliografía

[1] López-Ossorio, J. J., González-Álvarez, J. L., & Andrés-Pueyo, A. (2016). Eficacia predictiva de la valoración policial del riesgo de la violencia de género. Psychosocial Intervention, 25(1), 1-7.

[2] López-Ossorio, J. J., Loinaz, I., & González-Álvarez, J. L. (2019). Protocolo para la valoración policial del riesgo de violencia de género (VPR4.0): revisión de su funcionamiento. Revista Española de Medicina Legal.

[3] Derecho de algoritmos 101. https://www.eldiario.es/protesto-senoria/Derecho-algoritmos_6_560353968.html