Europa está dando otro gran paso para acordar un reglamento de IA

El Parlamento Europeo ha votado para confirmar su mandato de negociación para la ley de IA, lo que marca un hito importante que lanzará la próxima fase de negociaciones sobre un conjunto de reglas para la inteligencia artificial en toda la UE.

Los eurodiputados respaldaron una versión modificada de la propuesta de la Comisión que amplía el libro de reglas de manera que dicen que tienen como objetivo garantizar que la IA desarrollada y utilizada en Europa sea "totalmente coherente con los derechos y valores de la UE, incluida la supervisión humana, la seguridad, la privacidad y la transparencia". , no discriminación y bienestar social y ambiental”.

Los cambios respaldados por los eurodiputados incluyen una prohibición total de la vigilancia biométrica remota y la vigilancia policial predictiva. También agregaron una prohibición de "extraer aleatoriamente imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial", básicamente una prohibición estricta de Clearview AI y similares.

La prohibición propuesta del monitoreo biométrico remoto se aplicaría tanto a las aplicaciones en tiempo real como posteriores al lanzamiento (posterior al lanzamiento) de tecnologías como el reconocimiento facial, excepto en el último caso para las fuerzas del orden que persiguen delitos graves con autorización judicial.

Los eurodiputados también agregaron una prohibición sobre el uso de la tecnología de reconocimiento emocional por parte de las fuerzas del orden, los funcionarios fronterizos, los lugares de trabajo y las instituciones educativas.

Los parlamentarios también ampliaron la clasificación de los sistemas de IA de alto riesgo para incluir aquellos que representan un daño significativo para la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas, así como los sistemas de IA utilizados para influir en los votantes y los resultados electorales.

Los eurodiputados también agregaron plataformas de redes sociales más grandes que usan algoritmos para recomendar contenido a la lista de alto riesgo.

La votación en el pleno sigue al apoyo del comité a la propuesta modificada el mes pasado, luego de que los eurodiputados de diferentes grupos políticos consideraran cómo modificar el texto de la Comisión, incluso mediante la introducción de obligaciones para los fabricantes de la llamada IA ​​de propósito general.

En respuesta a los rápidos desarrollos en la IA generativa, los eurodiputados han abogado por la introducción de un conjunto de obligaciones para los modelos de IA fundamentales/genéricos, como la tecnología subyacente al chatbot ChatGPT de IA de OpenAI, que exige que dichos sistemas identifiquen y mitiguen los riesgos antes de que se implementen para el mercado, así como la aplicación de divulgaciones de transparencia al contenido generado por IA y la implementación de salvaguardas contra la generación de contenido ilegal.

Los fabricantes de IA de uso general también deberán publicar "resúmenes detallados" de la información patentada utilizada para entrenar sus modelos, según la propuesta de los eurodiputados.

Durante una gira por las capitales europeas para reunirse con los legisladores el mes pasado, el director ejecutivo de OpenAI, Sam Altman, criticó este aspecto de la propuesta de la UE. Insinuó que si la empresa no cumple con los compromisos, es posible que deba suspender sus servicios en la región y dijo a los periodistas que confiaba en que se retirarían los compromisos.

De hecho, la votación plenaria de hoy muestra un apoyo abrumador de los parlamentarios a la versión enmendada del proyecto de ley, incluidas las obligaciones propuestas para los IA de uso general, con 499 votos a favor y solo 28 en contra (más 93 abstenciones).

La votación sobre el mandato significa que ahora pueden comenzar las discusiones entre el Parlamento y los gobiernos de los estados miembros de la UE; el primer diálogo tripartito tendrá lugar esta noche.

En una declaración después de la votación, el co-ponente Brando Benifei dijo:

Todos los ojos están puestos en nosotros hoy. Mientras las grandes empresas tecnológicas hacen sonar la alarma sobre sus propias creaciones, Europa ha propuesto una respuesta concreta a los riesgos que plantea la IA. Queremos que se aproveche el potencial positivo de AI para la creatividad y la productividad, pero también lucharemos para proteger nuestra posición y contrarrestar las amenazas a nuestras democracias y libertades durante las negociaciones con el Consejo.

En otra declaración de apoyo, el co-ponente Dragos Tudorache agregó:

La ley de IA marcará la pauta mundial en el desarrollo y la gobernanza de la inteligencia artificial, asegurando que esta tecnología, que transformará radicalmente nuestras sociedades a través de los enormes beneficios que puede ofrecer, evolucione en línea con los valores fundamentales europeos de democracia y derechos de uso y el estado de derecho.

La versión de la ley de IA aprobada hoy por los eurodiputados también prevé excepciones para las actividades de investigación y los componentes de IA proporcionados bajo licencias de código abierto, que los eurodiputados creen que garantizarán el apoyo a la innovación, junto con las reglamentarias. Sandboxes para sistemas de prueba que se configurarán como parte del marco.

La propuesta de los eurodiputados también agrega una gama de derechos de los consumidores en relación con las decisiones de IA, incluida la capacidad de los consumidores de buscar una reparación colectiva si un sistema de IA los ha dañado.

La organización europea de consumidores BEUC acogió con satisfacción estos cambios, pero criticó al Parlamento por no abogar por una prohibición total del uso de IA para el reconocimiento de emociones (ya que la propuesta no restringe el uso comercial de ese aceite de serpiente).

También cree que los eurodiputados han dado demasiada discreción a los desarrolladores para decidir si sus sistemas entran o no en la categoría de alto riesgo, lo que, según ella, podría socavar la eficacia del marco basado en el riesgo.

Esto podría convertirse en la manzana de la discordia durante las conversaciones tripartitas para encontrar un compromiso entre la posición del Consejo de la UE, el organismo compuesto por los gobiernos de los estados miembros, y los legisladores en el Parlamento para lograr el acuerdo político necesario sobre un texto final Sello el archivo.

Por lo general, el Consejo de la UE adopta una postura más favorable a la industria, mientras que el Parlamento se preocupa más por los derechos fundamentales. Por lo tanto, queda por ver dónde se encontrarán los dos lados en el medio cuando se trata de regular la IA.

Si no pueden ponerse de acuerdo, el proceso legislativo de la UE puede estancarse o incluso fracasar. Pero hay un ímpetu en Bruselas para que este expediente despegue, dada la cantidad de atención mundial que ahora se centra en la regulación de la IA. (Ser el primero en contar con un reglamento democrático para la IA ofrece al bloque la oportunidad de ejercer influencia más allá de sus fronteras, mientras que otras jurisdicciones luchan por encontrar sus propios enfoques para regular un área compleja de tecnología en rápida evolución).

El Consejo reanudó su posición sobre el expediente En diciembre. En ese momento, los estados miembros estaban en gran medida a favor de diferir la acción contra la IA de propósito general a la legislación de implementación adicional. Dado lo que ha sucedido mientras tanto, y con las herramientas de IA generativa como ChatGPT convirtiéndose en el centro de la discusión sobre la tecnología y generando numerosos llamados a la regulación (incluso de muchos dentro de la propia industria tecnológica), será interesante ver si los Estados miembros acordará con los eurodiputados la necesidad de incluir obligaciones para esta clase de sistemas de IA en el texto de la ley de IA.

El ejecutivo de la UE presentó la propuesta inicial para el marco basado en el riesgo para la IA en abril de 2021. Si bien este primer borrador de texto de la comisión no profundizó tanto en el tema de la IA de propósito general, sí propuso disposiciones de transparencia para chatbots y tecnología deepfake. Incluso entonces, los legisladores de la UE adoptaron la posición de que se debería informar a los consumidores de que estaban interactuando con contenido generado por máquinas.

Si bien la Comisión mantiene la esperanza de que las conversaciones tripartitas sobre el expediente de la ley de IA den como resultado un acuerdo político para fines de este año, todavía habrá una fecha límite para la implementación, lo que significa que es poco probable que la legislación entre en vigor antes de 2026.

Por este motivo, la UE también está trabajando en varias iniciativas voluntarias destinadas a instar a las empresas de IA a autorregular su seguridad mientras tanto.