Grupo de consumidores insta a la UE a investigar con urgencia 'los riesgos de la IA generativa'

Los reguladores europeos se encuentran en una encrucijada sobre cómo regular, y en última instancia comercial y no comercial, el uso de la IA en la región, y hoy el grupo de consumidores más grande de la UE, BEUC, salió con su propia posición: dejar de arrastrar los pies y " Ahora inicie con urgencia investigaciones sobre los riesgos de la IA generativa", dijo.

“La IA generativa como ChatGPT ha abierto todo tipo de posibilidades para los consumidores, pero existen serias preocupaciones sobre cómo estos sistemas podrían engañar, manipular y dañar a las personas. También pueden usarse para difundir desinformación, perpetuar los prejuicios existentes que refuerzan la discriminación o engañar”, dijo Ursula Pachl, subdirectora general de BEUC, en un comunicado. “Instamos a las autoridades de seguridad, datos y protección del consumidor a que investiguen ahora y no esperen de brazos cruzados hasta que se produzcan daños al consumidor de cualquier tipo antes de tomar medidas”. las autoridades tienen que hacerlas cumplir”.

BEUC, que representa a organizaciones de consumidores en 13 países de la UE, publicó la convocatoria al mismo tiempo que un informe de uno de sus miembros, Forbrukerrådet en Noruega, publicado hoy.

Este informe noruego es claro en su posición: la IA está causando daño al consumidor (el título del informe lo dice todo: "Fantasma en la máquina: abordando el daño al consumidor de la IA generativa") y plantea numerosas cuestiones problemáticas.

Si bien algunos tecnólogos están haciendo sonar las alarmas de que la IA es una herramienta para erradicar a la humanidad, el debate en Europa es más sobre el impacto de la IA en áreas como la igualdad de acceso a los servicios, la desinformación y la competencia.

Por ejemplo, destaca cómo "ciertos desarrolladores de IA, incluidas las grandes empresas de tecnología", han sellado los sistemas del escrutinio externo, lo que dificulta ver cómo se recopilan los datos o cómo funcionan los algoritmos; el hecho de que algunos sistemas son tan imprudentes al producir información incorrecta como resultados correctos, a menudo cuando los usuarios no son conscientes de lo que son; IA diseñada para engañar o manipular a los usuarios; el problema del sesgo basado en la información alimentada en un modelo de IA en particular; y seguridad, particularmente cómo la IA podría usarse como un arma para engañar a las personas o violar los sistemas.

Si bien el lanzamiento de ChatGPT de OpenAI definitivamente trajo a la IA y el potencial de su alcance a la conciencia pública, el enfoque de la UE en el impacto de la IA no es nuevo. Dice que ya en 2020, se discutieron temas de "riesgo", aunque estos esfuerzos iniciales tenían la intención de ser una base para impulsar la "confianza" en la tecnología.

En 2021, se habló más concretamente de las aplicaciones de IA de "alto riesgo", y alrededor de 300 organizaciones se unieron para hacer campaña a favor de la prohibición total de algunas formas de IA.

Los estados de ánimo se han vuelto cada vez más críticos con el tiempo a medida que la UE hace cumplir sus leyes regionales. En particular, la semana pasada, la jefa de competencia de la UE, Margarethe Vestager, habló sobre cómo la IA corre el riesgo de distorsionarse cuando se aplica a áreas críticas como los servicios financieros, como las hipotecas y otras solicitudes de préstamos.

Sus comentarios se produjeron poco después de que la UE aprobara su ley oficial de IA, que divide tentativamente las aplicaciones de IA en categorías que incluyen "inaceptable", "alto riesgo" y "riesgo limitado", cubriendo una amplia gama de parámetros para determinar en qué categoría se encuentran. .

Si se implementa, la Ley de IA será el primer intento del mundo de codificar cierta comprensión y cumplimiento legal de cómo se usa la IA comercial y no comercial.

El siguiente paso en este proceso es que la UE trabaje con países individuales de la UE para elaborar la forma final de la ley, específicamente para averiguar qué (y quién) encajaría y no en sus categorías. La pregunta será qué tan rápido los diferentes países pueden llegar a un acuerdo. La UE quiere completar este proceso para fines de este año, dijo.

"Es crucial que la UE haga que esta ley sea lo más estricta posible para proteger a los consumidores", dijo Pachl en su declaración. “Todos los sistemas de IA, incluida la IA generativa, necesitan el escrutinio público y las autoridades deben recuperar el control sobre ellos. Los legisladores deben exigir que los resultados de cualquier sistema de IA generativa sean seguros, justos y transparentes para los consumidores”.

BEUC es conocido por intervenir en momentos críticos y tomar decisiones influyentes que reflejan la dirección que finalmente toman los reguladores. Por ejemplo, fue una de las primeras voces en contra de Google en investigaciones antimonopolio a largo plazo sobre el gigante de las búsquedas y los dispositivos móviles, y se pronunció años antes de que se tomaran medidas contra la empresa. Sin embargo, este ejemplo también subraya algo más: es probable que el debate sobre la IA y su impacto, y el papel que podría desempeñar la regulación en él, sea largo.