REVISTA DE INGENIERIA DYNA

En primer lugar ha definido los seis problemas principales que plantean el desarrollo y la utilización de los sistemas de IA, debido a sus características específicas: que el uso de la IA plantee mayores riesgos para la seguridad de los ciudadanos; que el uso de la IA plantee mayores riesgos de violación de los derechos fundamentales de los ciudadanos y de los valores de la Unión; que las autoridades no dispongan de las competencias, los marcos procedimentales y los recursos necesarios para garantizar y supervisar que el desarrollo y el uso de la IA cumplen las normas aplicables; que la inseguridad jurídica y la complejidad de la aplicación de las normas existentes a los sistemas de IA disuadan a las empresas de desarrollar y utilizar sistemas de IA; que la desconfianza en la IA impida su desarrollo en Europa y reduzca la competitividad global de la economía de la UE.; que las medidas fragmentadas creen obstáculos para el mercado único transfronterizo de la IA y amenacen la soberanía digital de la Unión.
Con esa base pretende crear la Ley de Inteligencia Artificial, la primera ley integral del mundo sobre este tema, pues considera indudable que es necesario garantizar mejores condiciones de desarrollo y uso de esta tecnología innovadora ya que sus aplicaciones pueden aportar muchos beneficios, como lo son una mejor asistencia sanitaria, un transporte más seguro y limpio, una fabricación más eficiente y una energía más barata y sostenible.
Para una adecuada actuación, también se ha clasificado las posibilidades de riesgo:
Riesgo inaceptable
Los sistemas de IA de riesgo inaceptable son los que se consideran una amenaza para las personas y serán prohibidos.
Alto riesgo
Los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales. En este aspecto la llamada IA generativa (como el ChatGPT o similares), tendría que cumplir requisitos de transparencia, como revelar que el contenido ha sido generado por IA, diseñar el modelo para evitar que genere contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento
Riesgo limitado
Los sistemas de IA, como los que generan o manipulan contenidos de imagen, audio o vídeo, deberán cumplir unos requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones con conocimiento de causa.