Zoom se volvió el referente en temas de videollamadas y el trabajo remoto durante la pandemia. Sin embargo, su rápido crecimiento parece haber tocado una fibra sensible en temas de derechos humanos. Un grupo importante de organizaciones de derechos humanos exige a la empresa tecnológica a abandonar su sistema de seguimiento y análisis de emociones.
En el documento, firmado por 27 organizaciones y dirigida a Eric S. Yuan – CEO y fundador de la marca -, se exige a Zoom desistir en sus intentos por implementar un sistema de seguimiento y análisis de emociones en los participantes de un evento o conferencia, una herramienta que monitorea el estado de ánimo de los invitados.
Este sistema busca interpretar la respuesta emocional a una indicación u oferta en una conversación, y está originalmente pensada para analizar la reacción de clientes durante una negociación y medir el impacto de propuestas comerciales.
“Zoom dice preocuparse por la felicidad y la seguridad de sus usuarios, pero esta tecnología invasiva dice lo contrario”, mencionan los firmantes.
Una propuesta basada en pseudociencia
La carta expone una serie de planteamientos sobre los riesgos de este avance, y señalan que no hay evidencia científica de que la inteligencia artificial pueda analizar las emociones humanas, una práctica que las organizaciones mencionan como una “violación de la privacidad y los derechos humanos”.
Uno de los puntos establece que el proyecto se basa en pseudociencia. “Las expresiones faciales a menudo están desconectadas de las emociones subyacentes, y la investigación ha encontrado que ni siquiera los humanos pueden leer o medir con precisión las emociones de los demás en algún momento. El desarrollo de esta herramienta agrega credibilidad a la pseudociencia y pone en juego su reputación”.
En otro momento, señalan que esta inclusión provocará que la discriminación a etnias y personas con discapacidad se agudicen, debido a la naturaleza del análisis. “Estas herramientas asumen que todas las personas usan las mismas expresiones faciales, patrones de voz y lenguaje corporal, pero eso no es cierto”.
Además, se sostiene de este desarrollo podría tener errores que desencadenen consecuencias injustas contra trabajadores, estudiantes y otros usuarios por una mala interpretación de las emociones desde el sistema.
“Zoom es un líder de la industria y millones de personas cuentan con usted para administrar nuestro futuro virtual. Como líder, también tiene la responsabilidad de establecer el rumbo para otras empresas en el espacio. Puede dejar claro que esta tecnología no tiene cabida en las comunicaciones por vídeo”, solicitan los firmantes a Yuan.
El plazo determinado por las organizaciones incluidas en la propuesta para una respuesta del CEO de Zoom vence este 20 de mayo. “A medida que continúa creciendo, es fundamental que mantenga una relación de confianza y respeto con sus usuarios. Le pedimos que responda públicamente a nuestra solicitud y se comprometa a no implementar inteligencia artificial emocional”, comentan en el cierre.
