(untitled) (Publicacions de la Universitat de València, 2024)
What is the predictive accuracy and effectiveness of algorithms designed for crime prevention purposes? Are they sufficiently transparent? Are there any inherent biases? This report presents an analysis of three algorithmic tools used by the Spanish administration for predictive analytics in the police and prison sector (VioGén, RisCanvi and VeriPol, the latter of which employs artificial intelligence). The aim is to evaluate the functioning of these three algorithmic systems, particularly in terms of their adherence to fundamental rights. The study employs a mixed-methods approach, integrating quantitative and qualitative techniques. It has been carried out by professors at the Universitat de València and the Universitat Politècnica de València, experts in a range of legal fields (criminal, administrative and constitutional law), as well as in statistics and mathematics. The principal findings of the report are as follows: 1) It analyses the predictive accuracy of the three systems and their effectiveness in achieving their intended goal (crime reduction); 2) assesses their degree of transparency for the general public and for the people directly affected by their use; 3) identifies and discusses possible biases; 4) analyses whether they comply with the current European and Spanish legal framework, with particular attention to the protection of personal data and the regulations governing the use of automated decision-making systems. The study discusses whether the costs incurred in terms of fundamental rights exceed what is necessary and/or proportionate to the actual or likely benefits in terms of crime prevention. Furthermore, it underscores the importance of enhanced transparency to facilitate the necessary public debate on the instruments employed by public authorities, such as the three systems under analysis, which may result in limitations on fundamental rights. Quina és la precisió predictiva i l’eficàcia dels algorismes dissenyats amb finalitats de prevenció de la delinqüència? Són prou transparents? Hi ha biaixos inherents? Aquest informe presenta una anàlisi de tres eines algorítmiques utilitzades per l’administració espanyola per a l’anàlisi predictiva en el sector policial i penitenciari (VioGén, RisCanvi i VeriPol, la darrera d’intel·ligència artificial), per tal d’avaluar-ne el funcionament, en particular pel que fa a l’adhesió als drets fonamentals. L’estudi empra un enfocament de mètodes mixtos que integra tècniques quantitatives i qualitatives. Ha estat realitzat per professors de la Universitat de València i de la Universitat Politècnica de València, experts en diversos camps jurídics (dret penal, administratiu i constitucional), així com en estadística i matemàtiques. Els principals objectius són: 1) analitzar la precisió predictiva dels tres sistemes i la seua eficàcia en la consecució de l’objectiu perseguit (reducció de la delinqüència); 2) valorar el seu grau de transparència per al públic en general i per a les persones directament afectades per l’ús; 3) identificar i discutir possibles biaixos; 4) analitzar si compleixen el marc legal europeu i espanyol vigent, amb especial atenció a la protecció de dades personals i a la normativa que regula l’ús de sistemes automatitzats de presa de decisions. Així mateix, s’analitza si els costos en termes de drets fonamentals excedeixen el necessari o són proporcionals als beneficis reals o probables en termes de prevenció de la delinqüència. A més, s’hi subratlla la importància de la transparència per a facilitar el necessari debat públic sobre els instruments emprats per les autoritats públiques, com els tres sistemes analitzats, que poden donar lloc a limitacions dels drets fonamentals.