REVISTA DE INGENIERIA DYNA

La carta abierta se inicia con una referencia al informe presentado ya en 2018 por la Federación de Científicos Alemanes, donde se afirmaba que la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes. Por desgracia, continúa, este nivel de planificación y gestión no se está produciendo, sino que en los últimos meses los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie - ni siquiera sus creadores - pueden entender, predecir o controlar de forma fiable.
Tras una exposición de los peligros de ese desarrollo, afirma que ese mundo no debe dejarse en manos de personas no elegidas adecuadamente: Los sistemas de IA potentes sólo deben desarrollarse cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables. Y que, en algún momento, puede ser importante obtener una revisión independiente antes de empezar a entrenar futuros sistemas, y para los esfuerzos más avanzados, acordar la limitación del ritmo de crecimiento de la computación utilizada para crear nuevos modelos.
Por todas esas razones, convocan a que todos los centros de IA demoren inmediatamente por al menos 6 meses la formación de sistemas de IA más potentes que el GPT-4. Según los emisores de la carta, esta moratoria debe ser pública y verificable, citándose a los actores clave de la tecnología, pero si estos no reaccionasen positivamente, son los gobiernos quienes deberían dictarla e implantarla.
Como objetivos insisten en que esta parada no necesita ser pasiva, sino dedicada a crear los protocolos de seguridad, hacer a los sistemas más precisos, seguros, interpretables, transparentes, robustos, sinceros y legítimos. Concluyen en que la humanidad puede disfrutar de un futuro próspero con la IA. Tras haber logrado crear potentes sistemas de IA, ahora podemos disfrutar de un "verano de la IA" en el que cosechemos los frutos, diseñemos estos sistemas para el claro beneficio de todos y demos a la sociedad la oportunidad de adaptarse. La sociedad ha puesto también pausa a otras tecnologías con efectos potencialmente catastróficos para la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de la IA, no nos precipitemos sin estar preparados a un otoño.