Los trabajadores que hicieron que ChatGPT fuera menos dañino piden a los legisladores que detengan la supuesta explotación por parte de las grandes tecnológicas

Los trabajadores de Kenia que ayudaron a eliminar contenido dañino en ChatGPT, el motor de búsqueda inteligente de OpenAI que genera contenido basado en las indicaciones de los usuarios, presentaron una petición a los legisladores del país pidiéndoles que inicien investigaciones sobre la moderación de contenido subcontratado de Big Tech y el trabajo de AI en Kenia.

Los peticionarios quieren que se investigue la «naturaleza del trabajo, las condiciones de trabajo y las operaciones» de las grandes empresas tecnológicas que subcontratan servicios a Kenia a través de empresas como Sama, que está en el centro de varias disputas por denuncias de explotación, despidos masivos ilegales y antisindicales. de moderadores de contenido.

La petición sigue un informe de tiempo que detallaba la lamentable compensación de los trabajadores de Sama que hizo que ChatGPT fuera menos tóxico, y la naturaleza de su trabajo, que implicaba leer y etiquetar texto gráfico, incluida la descripción de escenas de asesinato, bestialidad y violación. El informe dice que a fines de 2021, OpenAI contrató a Sama para «etiquetar descripciones de texto de abuso sexual, discurso de odio y violencia» como parte del trabajo para crear una herramienta (que se ha integrado con ChatGPT) para detectar contenido tóxico.

Los trabajadores dicen que fueron explotados y no recibieron apoyo psicosocial, pero estuvieron expuestos a contenidos nocivos que los dejaron con una «enfermedad mental grave». Los trabajadores quieren que los legisladores “regulen la subcontratación de tecnologías dañinas e inseguras” y protejan a los trabajadores que lo hacen.

También les piden que promulguen una legislación que regule “la subcontratación de trabajos tecnológicos nocivos y peligrosos y que proteja a los trabajadores que participan en tales compromisos”.

Sama dice que sus clientes incluyen el 25% de las empresas Fortune 50, incluidas Google y Microsoft. El negocio principal de la empresa con sede en San Francisco es la anotación, conservación y validación de datos de visión artificial. Emplea a más de 3.000 personas en sus centros, incluido el de Kenia. A principios de este año, Sama abandonó los servicios de moderación de contenido para centrarse en anotar datos de visión artificial, despidiendo a 260 trabajadores.

La respuesta de OpenAI al presunto exploit reconoció que el trabajo fue difícil y agregó que había establecido y compartido estándares de ética y bienestar (sin dar más detalles sobre las medidas exactas) con sus anotadores de datos para que el trabajo se lleve a cabo. «humanamente y voluntariamente».

Señalaron que para construir una inteligencia general artificial segura y beneficiosa, la anotación humana de datos era uno de los muchos aspectos de su trabajo para recopilar comentarios humanos y guiar modelos hacia un comportamiento más seguro en el mundo real.

“Reconocemos que este es un trabajo arduo para nuestros investigadores y oficiales de anotación en Kenia y en todo el mundo: sus esfuerzos para garantizar la seguridad de los sistemas de IA han sido extremadamente valiosos”, dijo el portavoz de OpenAI.

Sama le dijo a TechCrunch que está listo para trabajar con el gobierno de Kenia «para garantizar que se implementen protecciones básicas en todas las empresas». Dijo que da la bienvenida a las auditorías de terceros de sus condiciones de trabajo, y agregó que los empleados tienen múltiples canales para plantear inquietudes y que ha «realizado múltiples evaluaciones y auditorías externas e internas para garantizar que paguemos salarios justos y proporcionemos un ambiente de trabajo que es digno».