Los trabajadores de Kenia que ayudaron a eliminar contenido dañino en ChatGPT, el motor de búsqueda inteligente de OpenAI que genera contenido basado en las indicaciones de los usuarios, presentaron una petición a los legisladores del país pidiéndoles que inicien investigaciones sobre la moderación de contenido de la subcontratación de grandes tecnologías y el trabajo de IA en Kenia.
Los peticionarios quieren que se investigue la “naturaleza del trabajo, las condiciones de trabajo y las operaciones” de los servicios de subcontratación de grandes tecnologías en Kenia a través de empresas como Sama, que está en el centro de varios supuestos litigios por explotación, represión sindical y despidos masivos ilegales de moderadores de contenido.
La petición sigue un informe de tiempo que detallaba la lamentable compensación de los trabajadores de Sama que hacía que ChatGPT fuera menos tóxico, y la naturaleza de su trabajo, que requería leer y etiquetar texto gráfico, incluida la representación de escenas de asesinato, bestialidad y violación. El informe dice que a fines de 2021, OpenAI contrató a Sama para «etiquetar descripciones de texto de abuso sexual, discurso de odio y violencia» como parte del trabajo para crear una herramienta (que se ha integrado con ChatGPT) para detectar contenido tóxico.
Los trabajadores dicen que fueron explotados y no recibieron apoyo psicosocial, pero estuvieron expuestos a contenidos nocivos que los dejaron con una «enfermedad mental grave». Los trabajadores quieren que los legisladores “regulen la subcontratación de tecnologías dañinas e inseguras” y protejan a los trabajadores que lo hacen.
También les piden que promulguen una legislación que regule “la subcontratación de trabajos tecnológicos nocivos y peligrosos y que proteja a los trabajadores que participan en tales compromisos”.
Sama dice que sus clientes incluyen el 25% de las empresas Fortune 50, incluidas Google y Microsoft. El negocio principal de la empresa con sede en San Francisco es la anotación, conservación y validación de datos de visión artificial. Emplea a más de 3.000 personas en sus centros, incluido el de Kenia. A principios de este año, Sama abandonó los servicios de moderación de contenido para centrarse en anotar datos de visión artificial, despidiendo a 260 trabajadores.
La respuesta de OpenAI al presunto exploit reconoció que el trabajo fue difícil y agregó que había establecido y compartido estándares de ética y bienestar (sin dar más detalles sobre las medidas exactas) con sus anotadores de datos para que el trabajo se lleve a cabo. «humanamente y voluntariamente».
Señalaron que para construir una inteligencia general artificial segura y beneficiosa, la anotación humana de datos era uno de los muchos aspectos de su trabajo para recopilar comentarios humanos y guiar modelos hacia un comportamiento más seguro en el mundo real.
“Reconocemos que este es un trabajo arduo para nuestros investigadores y oficiales de anotación en Kenia y en todo el mundo: sus esfuerzos para garantizar la seguridad de los sistemas de IA han sido extremadamente valiosos”, dijo el portavoz de OpenAI.
Sama le dijo a TechCrunch que está listo para trabajar con el gobierno de Kenia «para garantizar que se implementen protecciones básicas en todas las empresas». Dijo que da la bienvenida a las auditorías de terceros sobre sus condiciones de trabajo, y agregó que los empleados tienen varios canales para plantear inquietudes y que ha “realizado varias evaluaciones y auditorías externas e internas para garantizar que paguemos salarios justos y brindemos un ambiente de trabajo digno. .»
