REVISTA DE INGENIERIA DYNA

Como dice The Algorithm en su presentación, solo pretende desmitificar las tecnologías de inteligencia artificial pues finalmente, dos años y medio después de su inicio, se ha llegado a un acuerdo: será la primera ley sobre IA del mundo. Se espera que mitigue los daños que la IA pueda producir en las áreas donde suponga un mayor riesgo para los derechos fundamentales, como la sanidad, la educación, la vigilancia de fronteras y los servicios públicos, además de prohibir los usos que supongan un "riesgo inaceptable".
1. La Ley introduce normas importantes y vinculantes sobre transparencia y ética.
Impone normas jurídicamente vinculantes que obligan a las empresas tecnológicas a notificar a las personas cuándo interactúan con un chatbot o con sistemas de categorización biométrica o de reconocimiento de emociones. También les exigirá que etiqueten los deepfakes y los contenidos generados por IA, y que diseñen los sistemas de forma que puedan detectarse los medios generados por IA. Se trata de un paso más allá de los compromisos voluntarios contraídos en EE.UU. Se exige también que los servicios esenciales de IA, como seguros y banca, que realicen una evaluación de impacto sobre cómo afectará el uso de sus sistemas a los derechos fundamentales de las personas.
2. Las empresas de IA aún tienen mucho margen de maniobra
La Ley exigirá que los modelos potentes de base y los sistemas de IA creados a partir de ellos mejoren la documentación, respeten los derechos de autor y compartan más información sobre los datos con los que se ha entrenado el modelo, informando sobre su seguridad y eficiencia energética. El problema es precisamente la definición y medición de potencia y esto parece que, a medida que se desarrolle la tecnología será objeto de los cambios pertinentes.
3. La UE se convertirá en la primera policía mundial de la IA
Se creará una Oficina Europea de la IA para vigilar el cumplimiento, aplicación y ejecución de la ley, la primera en el mundo que aplique normas vinculantes sobre IA, con un grupo de expertos independientes y con posibilidad de aplicar multas elevadas. A ella se podrán presentar las quejas de los usuarios. Superan a las normas estadounidenses y tienen la posibilidad de convertirse en referente mundial.
4. Defiende sobre todo la seguridad nacional
De los cuatro grupos diferentes de riesgo considerados, los llamados inaceptables quedan completamente prohibidos. Son los empleados para manipular el comportamiento de las personas, la evaluación social por creencias o etnia, el reconocimiento de emociones en el ámbito laboral y educativo y la vigilancia policial predictiva salvo aprobación judicial y sólo para 16 delitos específicos (terrorismo, trata de personas, pederastia o tráfico de drogas, por ejemplo). Una vez en vigor, las empresas tecnológicas tendrán dos años para aplicar las normas, pero las prohibiciones de usos inaceptables de la IA se aplicarán al cabo de seis meses y las empresas que desarrollen nuevos modelos tendrán que cumplirla en el plazo de un año. Se exceptúa de la Ley el uso militar para defender la seguridad nacional.