4 preguntas para hacer al evaluar los prototipos de IA para el sesgo • TechCrunch


Así es Se han logrado avances en la privacidad en los EE. UU. gracias a la aprobación de varias leyes, como la Ley de Privacidad del Consumidor de California (CCPA), y documentos no vinculantes, como el Blueprint for an AI Bill of Rights. Sin embargo, actualmente no existen regulaciones estándar que dicten cómo las empresas de tecnología deben mitigar el sesgo y la discriminación de la IA.

Como resultado, muchas empresas se están quedando atrás cuando se trata de desarrollar herramientas éticas y centradas en la privacidad. Casi el 80 % de los científicos de datos en los EE. UU. son hombres y el 66 % blancos, lo que demuestra una falta inherente de diversidad y representación demográfica en el desarrollo de herramientas de toma de decisiones automatizadas, lo que a menudo conduce a resultados de datos sesgados.

Se necesitan mejoras significativas en los procesos de revisión del diseño para garantizar que las empresas de tecnología creen y cambien sus productos pensando en todas las personas. De lo contrario, las empresas corren el riesgo de perder clientes frente a la competencia, dañar su reputación y exponerse a demandas judiciales graves. Según IBM, alrededor del 85% de los profesionales de TI creen que los consumidores eligen empresas que son transparentes sobre cómo se construyen, administran y utilizan sus algoritmos de IA. Podemos esperar que este número aumente a medida que más y más usuarios continúen oponiéndose a las tecnologías maliciosas y sesgadas.

Entonces, ¿qué deben tener en cuenta las empresas al analizar sus prototipos? Aquí hay cuatro preguntas que los equipos de desarrollo deben hacerse:

Índice del contenido

¿Hemos eliminado todo tipo de sesgo en nuestro prototipo?

La tecnología tiene la capacidad de revolucionar la sociedad tal como la conocemos, pero finalmente fracasará si no beneficia a todos por igual.

Para desarrollar una tecnología efectiva e imparcial, los equipos de IA deben desarrollar una lista de preguntas para hacer durante el proceso de revisión para identificar posibles problemas en sus modelos.

Hay muchos métodos que los equipos de IA pueden usar para evaluar sus modelos, pero antes de hacerlo, es importante evaluar el objetivo final y determinar si hay grupos que podrían beneficiarse de manera desproporcionada de los resultados del uso de IA La IA se ve afectada.

Por ejemplo, los equipos de IA deben considerar que el uso de tecnologías de reconocimiento facial puede discriminar involuntariamente a las personas de color, algo que es demasiado común en los algoritmos de IA. La investigación realizada por la Unión Estadounidense de Libertades Civiles en 2018 mostró que el sistema de reconocimiento facial de Amazon emparejó incorrectamente a 28 miembros del Congreso de los EE. UU. con fotos policiales. Un asombroso 40% de las coincidencias falsas eran negros, a pesar de que solo representan el 20% del Congreso.

Al hacer preguntas desafiantes, los equipos de IA pueden encontrar nuevas formas de mejorar sus modelos y tratar de evitar que ocurran estos escenarios. Por ejemplo, el escrutinio puede ayudarlos a determinar si necesitan ver más datos o si necesitan un tercero, p. B. un experto en protección de datos, para revisar su producto.

Plot4AI es un gran recurso para aquellos que buscan comenzar.

Si quieres conocer otros artículos parecidos a 4 preguntas para hacer al evaluar los prototipos de IA para el sesgo • TechCrunch puedes visitar la categoría Noticias.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Subir