Los empleados que hicieron que ChatGPT fuera menos malicioso instan a los legisladores a frenar la supuesta explotación por parte de las grandes tecnológicas

Los trabajadores de Kenia que ayudaron a eliminar contenido malicioso en ChatGPT, el motor de búsqueda inteligente de OpenAI que genera contenido basado en la entrada del usuario, solicitaron a la legislatura del país, instándolos a investigar la subcontratación de moderación de contenido e iniciar el trabajo de IA por parte de Big Tech en Kenia.

Los peticionarios quieren que se investigue el "tipo de trabajo, las condiciones laborales y los procedimientos" de las grandes empresas tecnológicas que subcontratan servicios en Kenia a través de empresas como Sama, que está en el centro de varias demandas por supuesta explotación, represión sindical y despidos masivos ilegales de moderadores de contenido

La petición sigue a un informe de Time que detallaba el salario miserable de los trabajadores de Sama, lo que hacía que ChatGPT fuera menos tóxico, así como la naturaleza de su trabajo, que requería leer y escribir en texto gráfico, incluidas descripciones de escenas de asesinato, bestialidad y violación. El informe establece que OpenAI encargó a Sama a fines de 2021 que "etiquetara las descripciones textuales de abuso sexual, discurso de odio y violencia" como parte del trabajo para desarrollar una herramienta de detección de contenido tóxico (integrada con ChatGPT).

Los trabajadores dicen que fueron explotados y se les negó el apoyo psicosocial, sin embargo, estuvieron expuestos a contenidos dañinos que les causaron una "enfermedad mental grave". Los trabajadores quieren que los legisladores "regulen la subcontratación de tecnología dañina y peligrosa" y protejan a los trabajadores que lo hacen.

También les piden que promulguen una legislación que "regule la subcontratación de trabajos tecnológicos nocivos y peligrosos y proteja a los trabajadores involucrados en dichos trabajos".

Sama dice que cuenta con el 25% de las empresas Fortune 50, incluidas Google y Microsoft, entre sus clientes. El negocio principal de la empresa con sede en San Francisco es la anotación, selección y validación de datos de visión artificial. La empresa emplea a más de 3000 personas en sus ubicaciones, incluso en Kenia. A principios de año, Sama descontinuó sus servicios de moderación de contenido para enfocarse en anotar datos de visión por computadora y despidió a 260 empleados.

La respuesta de OpenAI a la supuesta explotación reconoció que el trabajo fue un desafío y agregó que la empresa había establecido y compartido con sus anotadores de datos estándares éticos y de salud (sin especificar las acciones exactas) para que el trabajo se pueda realizar "humanitariamente y voluntariamente".

Descubrieron que anotar datos humanos para construir inteligencia general artificial segura y útil era una de las muchas ramas de trabajo para recopilar comentarios humanos y guiar a los modelos para que se comporten de manera más segura en el mundo real.

"Reconocemos que este es un trabajo desafiante para nuestros investigadores y personal de anotaciones en Kenia y en todo el mundo: sus esfuerzos para garantizar la seguridad de los sistemas de IA han sido inmensamente valiosos", dijo el portavoz de OpenAI.

Sama le dijo a TechCrunch que está abierto a trabajar con el gobierno de Kenia "para garantizar que se implementen salvaguardas básicas en todas las empresas". Dijo que da la bienvenida a las auditorías de terceros de sus condiciones de trabajo, y agregó que los empleados tienen múltiples canales para plantear inquietudes y que "ha realizado múltiples evaluaciones y auditorías externas e internas para garantizar que estamos pagando salarios justos". que asegura esto.” es digno.”