Cada vez son más las plataformas o apps de mensajería instantánea, como Slack, que utilizan las opiniones de sus usuarios para llevar a cabo el entrenamiento de modelos de inteligencia artificial sin su aprobación. Slack es una app de mensajería instantánea orientada al ámbito profesional. Principalmente se emplea para comunicaciones de carácter laboral y empresarial. Se encuentra en competencia con otras apps más reconocidas como Skype, Microsoft Teams o Flock.

Recientemente se ha revelado que Slack está empleando los mensajes de sus usuarios para entrenar modelos de aprendizaje automático sin consentimiento explícito. De hecho, también se están utilizando todos los archivos que se comparten a través de la plataforma y cualquier otro tipo de contenido. Además, el escaneo de toda la información de los usuarios es obligatorio.

Si deseas evitar la supervisión de todos los comentarios, Slack requiere el envío de un correo electrónico

Lo más interesante de todo, es que Slack tiene incorporado por defecto el escaneo de toda la información de la aplicación para el entrenamiento de la IA. Lo más preocupante es que, para desactivarlo, los usuarios deben solicitar al administrador de Slack de su organización que envíe un correo electrónico a la empresa para detener este escaneo. Los usuarios no tienen la posibilidad de enviar ningún tipo de correo para detener la supervisión, únicamente los administradores, como por ejemplo alguien del equipo de recursos humanos o de tecnologías de la información en una empresa.

Fue Corey Quinn, ejecutivo de DuckBill Group, quien descubrió que Slack estaba utilizando toda la información de sus usuarios para entrenar una IA. Esto fue gracias a la lectura de la política de Privacidad de Slack.

«Para desarrollar modelos de IA/ML, nuestros sistemas analizan los Datos del cliente (por ejemplo, mensajes, contenido y archivos) enviados a Slack, así como Otra información (incluida la información de uso), tal y como se define en nuestra Política de privacidad y en su contrato de cliente.»

La empresa se defiende: Slack no accede al contenido de los mensajes privados, canales privados o canales públicos para su uso en IA

Debido a la difusión de la noticia, fue este último fin de semana cuando Slack publicó una entrada en su blog. En ella trató de explicar la forma en que se utilizan los datos de sus clientes. Según la compañía, los datos de los clientes no se utilizan para entrenar ninguno de los productos de IA generativa de Slack. La empresa afirma que para esto depende de modelos de lenguaje de terceros. La información recopilada se emplea únicamente para entrenar sus modelos de aprendizaje automático para productos «como las recomendaciones de canales y emojis y los resultados de búsqueda«.

En el caso de estas aplicaciones, Slack se defiende indicando que «los modelos ML tradicionales de Slack utilizan datos agregados desidentificados y no acceden al contenido de los mensajes en DMs, canales privados o canales públicos«.

Un vocero de Salesforce (dueña de Slack Technologies), reiteró esto en una declaración a Engadget. También mencionó que «no construimos ni entrenamos estos modelos de manera que puedan aprender, memorizar o ser capaces de reproducir datos de clientes«. Sin embargo, han mantenido esta información oculta, y no ofrecen al usuario la posibilidad de elegir si desean ser supervisados o no. Además, se requiere el envío de un correo electrónico para evitar la recolección de toda la información de los usuarios.

“Para aclararlo, Slack tiene modelos de aprendizaje automático a nivel de plataforma para cosas como recomendaciones de canales y emojis y resultados de búsqueda. Y sí, los clientes pueden excluir sus datos para ayudar a entrenar esos modelos de aprendizaje automático (no generativos).