diciembre 9, 2023

La UE da un gran paso hacia la regulación de la IA

La Unión Europea dio un paso importante el miércoles para aprobar lo que sería una de las primeras leyes importantes para regular la inteligencia artificial, un modelo potencial para los legisladores de todo el mundo mientras lidian con cómo poner barreras en la tecnología de rápido desarrollo.

El Parlamento Europeo, una rama legislativa clave de la UE, aprobó un proyecto de ley conocido como Ley de IA, que impondrá nuevas restricciones a lo que se considera los usos más peligrosos de la tecnología. Reduciría drásticamente el uso de software de reconocimiento facial, al tiempo que requeriría que los fabricantes de sistemas de IA como el chatbot ChatGPT revelen más sobre los datos utilizados para crear sus programas.

La votación es un paso en un proceso más largo. No se espera que se apruebe una versión final de la ley hasta finales de este año.

La Unión Europea se une en gran medida a los Estados Unidos y otros gobiernos occidentales importantes en la regulación de la IA. El bloque de 27 naciones ha debatido el tema durante más de dos años, y el tema ha adquirido una nueva urgencia después del lanzamiento de ChatGPT el año pasado, que aumentó las preocupaciones. sobre los efectos potenciales de la tecnología en el trabajo y la sociedad.

Los legisladores de todo el mundo, desde Washington hasta Beijing, ahora se apresuran a controlar una tecnología emergente que alarma incluso a algunos de sus primeros creadores. En Estados Unidos, la Casa Blanca se estrenó ideas políticas que incluye reglas para probar los sistemas de IA antes de que estén disponibles públicamente y protege los derechos de privacidad. En China, las reglas preliminares anunciadas en abril exigirían que los fabricantes de chatbots cumplan con las estrictas reglas de censura del país. Beijing también controla la forma en que los fabricantes de sistemas de inteligencia artificial utilizan los datos.

No está claro qué tan efectiva sería cualquier regulación de IA. En una señal de las nuevas capacidades de la tecnología que parecen moverse más rápido de lo que los legisladores pueden seguir, las versiones anteriores de la ley de la UE prestaron poca atención a los llamados sistemas de inteligencia artificial generativa como ChatGPT, que puede producir texto, imágenes y video en respuesta. a las señales.

En la última versión del proyecto de ley de Europa aprobado el miércoles, la IA generativa enfrentará nuevos requisitos de transparencia. Eso incluye la publicación de resúmenes de material protegido por derechos de autor utilizado para entrenar el sistema, una propuesta apoyada por la industria editorial pero a la que se oponen los desarrolladores de tecnología por ser técnicamente inviable. Los creadores de sistemas de IA generativa también deben implementar medidas de seguridad para evitar que generen contenido ilegal.

Francine Bennett, directora interina del Instituto Ada Lovelace, una organización en Londres que ha presionado por nuevas leyes de inteligencia artificial, dijo que la propuesta de la UE era un «hito importante».

«La tecnología de rápido movimiento y rápidamente reutilizable es, por supuesto, difícil de regular, incluso si las empresas que desarrollan la tecnología no tienen del todo claro cómo se desarrollarán las cosas», dijo la Sra. Bennett. «Pero ciertamente sería peor para todos nosotros continuar operando sin una regulación adecuada».

El proyecto de ley de la UE adopta un enfoque «basado en el riesgo» para regular la IA, centrándose en las aplicaciones con el mayor potencial de daño humano. Esto incluirá dónde se utilizan los sistemas de IA para operar infraestructura crítica como agua o energía, en el sistema legal y al determinar el acceso a servicios públicos y beneficios gubernamentales. Los fabricantes de tecnología tienen que realizar evaluaciones de riesgo antes de poner la tecnología en uso diario, de forma similar al proceso de aprobación de medicamentos.

Un área importante de debate es el uso del reconocimiento facial. El Parlamento Europeo votó para prohibir el uso del reconocimiento facial en vivo, pero quedan dudas sobre si se deben permitir excepciones para la seguridad nacional y otros fines de aplicación de la ley.

Otra disposición prohibiría a las empresas extraer datos biométricos de las redes sociales para crear bases de datos, una práctica que generó escrutinio después de que la empresa de reconocimiento facial Clearview AI la usara.

Los líderes tecnológicos están tratando de influir en el debate. Sam Altman, el director ejecutivo de OpenAI, el fabricante de ChatGPT, visitó en los últimos meses a al menos 100 legisladores estadounidenses y otros formuladores de políticas globales en América del Sur, Europa, África y Asia, incluida Ursula von der Leyen, presidenta de la Comisión Europea. el señor llamó Altman para la regulación de la IA, pero también dijo que la propuesta de la UE puede ser demasiado difícil de seguir.

Después de la votación del miércoles, se negociará una versión final de la ley entre los representantes de las tres ramas de la Unión Europea: el Parlamento Europeo, la Comisión Europea y el Consejo de la Unión Europea. Los funcionarios dijeron que esperan llegar a un acuerdo final para fin de año.