La política tecnológica de EE. UU. debe seguir el ritmo de la innovación en IA

A medida que las innovaciones en inteligencia artificial (IA) superan los ciclos de noticias y captan la atención del público, un marco para su desarrollo y uso responsable y ético se vuelve cada vez más importante para garantizar que esta ola de tecnología sin precedentes alcance todo su potencial como contribuyente positivo al progreso económico y social.

La Unión Europea ya ha trabajado para legislar en torno a la IA responsable; Compartí mis pensamientos sobre estas iniciativas hace casi dos años. En aquel entonces, la ley de IA era, como se la llama, “un enfoque objetivo y mesurado de la innovación y las consideraciones sociales”. Hoy, las principales empresas de tecnología y el gobierno de EE. UU. se unen para trazar una visión compartida de la IA responsable.

El poder de la IA generativa

El lanzamiento de OpenAI de ChatGPT el año pasado capturó la imaginación de los innovadores tecnológicos, los líderes empresariales y el público, y explotó el interés y la comprensión de los consumidores sobre las posibilidades de la IA generativa. Sin embargo, a medida que la inteligencia artificial se generaliza, incluso como un tema político, y a medida que las personas tienden a experimentar y probar sistemas, existe el riesgo de que la posibilidad de desinformación, las implicaciones de privacidad y el riesgo de ciberseguridad, así como el comportamiento fraudulento, pasen rápidamente a un segundo plano. .

En un primer intento de abordar estos desafíos potenciales y garantizar una innovación de IA responsable que proteja los derechos y la seguridad de los estadounidenses, la Casa Blanca ha anunciado nuevas medidas para promover la IA responsable.

En una hoja informativa publicada por la Casa Blanca la semana pasada, la administración Biden-Harris describió tres acciones para "fomentar la innovación estadounidense responsable en inteligencia artificial (IA) y proteger los derechos y la seguridad de las personas". Éstas incluyen:

• Nuevas inversiones para apoyar la investigación y el desarrollo responsable de la IA estadounidense.
• Evaluaciones públicas de los sistemas de IA generativa existentes.
• Políticas para garantizar que el gobierno de EE. UU. lidere con el ejemplo en la mitigación de los riesgos de la IA y el aprovechamiento de las oportunidades de la IA.

Nuevas inversiones

En términos de nuevas inversiones, los $140 millones que la Fundación Nacional de Ciencias está proporcionando para lanzar siete nuevos institutos nacionales de investigación de IA palidecen en comparación con los fondos recaudados por empresas privadas.

Si bien la dirección es correcta, en general, la inversión del gobierno de EE. UU. en IA es pequeña en comparación con la inversión del gobierno en otros países, en particular China, que comenzó a invertir en 2017. Existe una oportunidad inmediata de amplificar el impacto de las inversiones a través de asociaciones académicas para el desarrollo de la fuerza laboral y la investigación. El gobierno debe financiar centros de IA junto con instituciones académicas y corporativas que ya están a la vanguardia de la investigación y el desarrollo de IA, impulsando la innovación y creando nuevas oportunidades para las empresas con el poder de la IA.

Las colaboraciones entre los centros de IA y las principales instituciones académicas, como el Schwarzman College del MIT y el Instituto de IA Experimental del Northeastern, ayudan a cerrar la brecha entre la teoría y la aplicación práctica al reunir a expertos de la academia, la industria y el gobierno para colaborar en investigación y desarrollo de vanguardia. proyectos de desarrollo que tienen aplicaciones en el mundo real. Al asociarse con las principales corporaciones, estos centros pueden ayudar a las empresas a integrar mejor la IA en sus operaciones, impulsando la eficiencia, el ahorro de costos y mejores resultados para el consumidor.

Además, estos centros ayudan a educar a la próxima generación de profesionales de IA al brindarles a los estudiantes acceso a tecnología de punta, experiencia práctica con proyectos del mundo real y tutoría de líderes de la industria. Al adoptar un enfoque proactivo y colaborativo de la IA, el gobierno de EE. UU. puede ayudar a dar forma a un futuro en el que la IA mejore el trabajo humano, en lugar de reemplazarlo. Como resultado, todos los miembros de la sociedad pueden beneficiarse de las posibilidades de esta poderosa tecnología.

Evaluaciones Públicas

La validación del modelo es fundamental para garantizar que los modelos de IA sean precisos, confiables y sesgados, lo cual es esencial para una implementación exitosa en aplicaciones del mundo real. Por ejemplo, considere un caso de uso de planificación urbana donde la IA generativa se entrena en ciudades delineadas con poblaciones pobres históricamente subrepresentadas. Desafortunadamente, solo conducirá a más de lo mismo. Lo mismo ocurre con el sesgo crediticio, ya que más instituciones financieras utilizan algoritmos de inteligencia artificial para tomar decisiones crediticias.

Cuando estos algoritmos se entrenan con datos que discriminan a ciertos grupos de población, pueden negar injustamente el crédito a esos grupos, lo que genera desigualdades económicas y sociales. Si bien estos son solo algunos ejemplos de sesgo en la IA, esto debe tenerse en cuenta sin importar qué tan rápido se desarrollen e implementen nuevas tecnologías y técnicas de IA.

Para contrarrestar el sesgo en la IA, la administración ha anunciado una nueva oportunidad de evaluación de modelos en DEFCON 31 AI Village, un foro para que investigadores, profesionales y entusiastas se reúnan y exploren los últimos avances en inteligencia artificial y aprendizaje automático. La evaluación del modelo es una iniciativa de colaboración con algunos de los principales actores en este espacio, incluidos Anthropic, Google, Hugging Face, Microsoft, Nvidia, OpenAI y Stability AI, utilizando una plataforma proporcionada por Scale AI.

También mide cómo los modelos se ajustan a los principios y prácticas descritos en el Plan para una Declaración de Derechos de IA de la administración Biden-Harris y el Marco de Gestión de Riesgos de IA del Instituto Nacional de Estándares y Tecnología (NIST). Este es un desarrollo positivo ya que la administración trabaja directamente con las empresas y aprovecha la experiencia de los ejecutivos técnicos en esta área que se han convertido en laboratorios internos de IA.

política gubernamental

Con respecto a la tercera medida con respecto a las políticas para garantizar que el gobierno de EE. UU. lidere con el ejemplo en la mitigación de los riesgos de IA y capitalice las oportunidades de IA, la Oficina de Administración y Presupuesto debe proporcionar un borrador de orientación de políticas para comentario público para el uso de sistemas de IA por parte de EE. UU. gobierno. Una vez más, no se proporcionaron plazos ni detalles para estas pautas, pero se espera que una orden ejecutiva sobre justicia racial, promulgada a principios de este año, esté a la vanguardia.

La orden ejecutiva incluye una disposición que ordena a las agencias gubernamentales que utilicen IA y sistemas automatizados de manera que promuevan la justicia. Para que estas medidas tengan un efecto significativo, deben incluir incentivos y efectos; No pueden ser instrucciones meramente facultativas. Por ejemplo, los estándares de seguridad del NIST son requisitos efectivos para el uso de la mayoría de las agencias gubernamentales. El incumplimiento de estas normas es extremadamente vergonzoso, al menos para las personas involucradas, y un motivo de acción del personal en algunas partes del gobierno. Las políticas de inteligencia artificial del gobierno, ya sea como parte del NIST o de otra manera, deben ser comparables para ser efectivas.

Además, el costo de cumplir con tales regulaciones no debe ser una barrera para la innovación de las empresas emergentes. Por ejemplo, ¿qué se puede lograr en un marco en el que el costo del cumplimiento normativo aumenta con el tamaño de la organización? A medida que el gobierno eventualmente se convierte en un importante comprador de plataformas y herramientas de IA, es primordial que sus políticas se conviertan en el principio rector para el desarrollo de dichas herramientas. Haga que el cumplimiento de estas pautas sea un requisito de compra literal o incluso real (por ejemplo, el estándar de seguridad FedRamp) y estas pautas pueden marcar la diferencia.

A medida que los sistemas de IA generativa se vuelven más poderosos y omnipresentes, es crucial que todas las partes interesadas, incluidos los fundadores, operadores, inversores, tecnólogos, consumidores y reguladores, sean prudentes y decididos al buscar y comprometerse con estas tecnologías. Si bien la IA generativa y la IA en general tienen el potencial de revolucionar las industrias y crear nuevas oportunidades, también plantean desafíos importantes, en particular en torno a cuestiones de sesgo, privacidad y consideraciones éticas.

Por lo tanto, todas las partes interesadas deben priorizar la transparencia, la rendición de cuentas y la colaboración para garantizar que la IA se desarrolle y utilice de manera responsable y beneficiosa. Eso significa invertir en investigación y desarrollo éticos de IA, comprometerse con diversas perspectivas y comunidades, y establecer políticas y regulaciones claras para el desarrollo y la implementación de estas tecnologías.