Meta está bajo presión para explicar por qué canceló un importante contrato con una empresa que utilizaba para entrenar IA, poco después de que algunos de sus empleados con sede en Kenia afirmaran que tenían que ver contenido gráfico capturado por las gafas inteligentes Meta.
En febrero, los trabajadores de Sama dijeron a dos periódicos suecos que Visto usuarios de gafas yendo al baño y teniendo sexo..
Menos de dos meses después, Meta rescindió su contrato con Sama, lo que según Sama resultaría en el despido de 1.108 trabajadores.
Meta dice que es porque Sama no cumplió con sus estándares, una crítica que Sama rechaza. Una organización de trabajadores de Kenia dice que la decisión de Meta fue motivada por el personal que habló.
Meta no respondió a la acusación, pero le dijo a BBC News en un comunicado que había “decidido terminar nuestro trabajo con Sama porque no cumplen con nuestros estándares”.
Sama defendió su trabajo.
“Sama siempre ha cumplido con los estándares operativos, de seguridad y de calidad requeridos en todos sus compromisos con los clientes, incluido Meta”, dijo en un comunicado.
“En ningún momento se nos ha informado de ningún incumplimiento de estos estándares y respaldamos firmemente la calidad y la integridad de nuestro trabajo”.
“Cuerpos desnudos”
A finales de febrero, los periódicos suecos Svenska Dagbladet (SvD) y Goteborgs-Posten (GP) publicaron una investigación que incluía los testimonios de empleados anónimos a los que se había pedido ver vídeos filmados con las gafas de Meta.
“Vemos de todo, desde salones hasta cuerpos desnudos”, dijo un trabajador.
En el momento de la publicación, Meta admitió que los trabajadores contratistas a veces podían revisar el contenido filmado con sus gafas inteligentes cuando la gente lo compartía con Meta AI.
Dijo que esto era para mejorar la experiencia del cliente y era una práctica común entre otras empresas.
Sin embargo, estas revelaciones han llevado a los reguladores a actuar.
Poco después de la investigación sueca, el organismo de control de datos del Reino Unido, la Oficina del Comisionado de Información (ICO, por sus siglas en inglés) le escribió a meta sobre lo que llamó un informe “preocupante”.
La oficina del Comisionado de Protección de Datos de Kenia también anunció que estaba iniciando una investigación sobre las preocupaciones de privacidad planteadas por las gafas.
En una declaración en respuesta a la noticia de los despidos, un portavoz de Meta dijo a la BBC: “El mes pasado suspendimos nuestro trabajo con Sama mientras investigábamos estas afirmaciones.
“Nos los tomamos en serio. Las fotos y los vídeos son privados para los usuarios. Los seres humanos revisan el contenido de la IA para mejorar el rendimiento del producto, para lo cual obtenemos el consentimiento claro del usuario”.
“Normas de secreto”
En septiembre meta presentó una gama de gafas impulsadas por IA en asociación con las marcas Ray-Ban y Oakley.
Las funciones pueden incluir traducir texto o responder preguntas sobre lo que el usuario está mirando, algo especialmente útil para personas ciegas o con discapacidad visual.
Sin embargo, a medida que estos dispositivos ganan popularidad, también aumenta la preocupación por su mal uso.
Los trabajadores con los que hablaron los periódicos suecos eran anotadores de datos y enseñaron a la IA de Meta a interpretar imágenes etiquetando manualmente el contenido.
Los trabajadores dijeron que también revisaron las transcripciones de las interacciones con la IA para verificar que respondiera adecuadamente a las preguntas.
En un caso, dijo un trabajador a los periódicos, las gafas de un hombre se dejaron grabando en un dormitorio donde luego filmaron a una mujer, aparentemente la esposa del hombre, desnudándose.
Las gafas Meta tienen una luz en la esquina del marco que se enciende cuando la cámara incorporada está grabando.
Pero el mal uso de las gafas también se ha relacionado con grabación no consensuada mujeres en Kenia.
Sama, una empresa de subcontratación con sede en Estados Unidos, que comenzó como una organización sin fines de lucro con el objetivo de aumentar el empleo mediante la provisión de empleos tecnológicos, es ahora una empresa B “ética”.
Pero esta no es la primera vez que un contrato con Meta se deteriora.
Un acuerdo previo para moderar Facebook los mensajes generaron críticasasí como demandas presentadas por ex empleados, algunos de los cuales describieron haber estado expuestos a contenido gráfico y traumático.
Más tarde, Sama dijo que se arrepentía de haber aceptado el trabajo.
Naftali Wambalo, del Africa Tech Workers Movement, peticionario en la demanda relacionada con el caso, dijo a la BBC que también había hablado con los trabajadores involucrados en el acuerdo de gafas inteligentes.
Wambalo creía que la razón por la que Meta despidió el trabajo fue porque no quería que los trabajadores hablaran sobre los trabajadores humanos que a veces revisan el contenido capturado por las gafas inteligentes.
“Creo que los estándares de los que hablan aquí son estándares de secreto”, dijo a BBC News.
La BBC pidió a Meta que respondiera sobre este punto.
El gigante tecnológico dijo anteriormente que los usuarios fueron informados sobre la posibilidad de revisión humana en sus términos de servicio.
Mercy Mutemi, abogada que representa a los peticionarios y también directora ejecutiva del grupo de campaña Oversight Lab, dijo que la declaración de Meta debería servir como advertencia al gobierno de Kenia.
“Nos dijeron que esta era nuestra ruta hacia el ecosistema de la IA”, le dijo a la BBC. “Esta es una base muy frágil sobre la cual construir toda su industria”.
(BBC)
Suscríbase a nuestro boletín Tech Decoded para seguir las principales historias y tendencias tecnológicas del mundo. ¿Fuera del Reino Unido? Regístrate aquí.
