La justicia contra Elon Musk: demandan a xAI por usar imágenes de abuso infantil para entrenar a Grok
Una demanda histórica sacude al imperio tecnológico de Elon Musk. La empresa xAI, dueña del chatbot Grok, fue llevada a los tribunales de Estados Unidos por haber utilizado material de abuso sexual infantil real y generado por inteligencia artificial para entrenar a su modelo. La noticia, publicada por Ars Technica, enciende todas las alarmas sobre los límites éticos de la tecnología.
¿Quién presentó la demanda contra xAI?
La denuncia fue presentada por una mujer que se identifica como Jane Doe. Su historia es desgarradora: cuando tenía edad preescolar, a principios de los años 2000, fue violada repetidamente por hombres adultos para producir imágenes que luego se vendían a pedófilos en línea. Esas imágenes, que jamás debieron existir, fueron procesadas y registradas en listas de hash por organizaciones como el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) de Estados Unidos y el Centro Canadiense para la Protección de la Infancia (CCCP).
Doe recibe alertas del Sistema de Notificación a Víctimas del Departamento de Justicia de EE.UU. cada vez que sus imágenes podrían estar involucradas en una nueva investigación criminal. Fue el CCCP quien le informó que habían identificado material de abuso sexual infantil (CSAM, por sus siglas en inglés) generado por inteligencia artificial en la plataforma de xAI que la representaba a ella. Además, la demanda revela que se encontraron mensajes en foros en línea donde ofensores discutían cómo crear ese tipo de material usando su imagen y la de otras víctimas.
¿Cómo terminó el CSAM en los datos de entrenamiento de Grok?
La acusación sostiene que los términos de Grok tratan las publicaciones públicas en X y los propios resultados del modelo como datos de entrenamiento por defecto. Esto significa que cualquier imagen publicada alimenta directamente el sistema que xAI usa para mejorar sus modelos. La demanda señala además que, si bien xAI filtra contenido violento de los datos de entrenamiento, sus términos no especifican que el CSAM, las imágenes íntimas no consensuales ni el material de tipo NSFW queden excluidos.
“Porque la eliminación completa de la influencia de un ejemplo de entrenamiento de un modelo ya entrenado es técnicamente difícil y no es algo que xAI haya declarado públicamente haber hecho, cualquier CSAM incorporado antes de su eliminación probablemente continuó dando forma a los resultados del modelo incluso después de que las imágenes originales fueran removidas de la vista pública”, señala el texto de la demanda, según Ars Technica.
Las acusaciones legales contra xAI
La abogada de Doe, Margaret E. Mabie, fue contundente en un comunicado de prensa: producir, poseer y distribuir ese material son delitos, y “xAI hizo las tres cosas”. La demanda acusa a X de violar leyes federales de pornografía infantil y la Ley Masha, que otorga a sobrevivientes de CSAM el derecho a demandar por producción, posesión y distribución.
Sarah London, otra abogada de la demandante, expresó la angustia de su clienta: Doe “ha vivido durante casi dos décadas sabiendo que imágenes de lo peor que le ocurrió circulan entre depredadores en línea, y que pueden reaparecer en cualquier momento. xAI debe ser responsabilizada por entrenar deliberadamente sus modelos con imágenes del horrible abuso que sufrió, y con las imágenes de abuso de cada otra sobreviviente en esta clase”.
¿Qué pide la demanda colectiva contra Grok?
En caso de prosperar, la demanda colectiva representaría a todas las víctimas cuyas imágenes de infancia hayan sido usadas para generar CSAM en Grok. Doe solicita al tribunal que ordene a xAI destruir todo el CSAM generado por Grok que pueda estar almacenando en sus servidores y que bloquee al modelo de generar ese tipo de material en el futuro. La demanda sugiere que eso implicaría bloquear a Grok de cualquier resultado sexualizado, incluyendo imágenes íntimas no consensuales y contenido NSFW que el propio Musk ha promovido.
¿Es el primer caso de este tipo contra xAI?
Sí, es el primer caso que acusa a xAI de entrenar sobre CSAM, de acuerdo con Ars Technica. La publicación también señala que anteriormente se informó sobre un dataset controvertido que fue depurado tras hallarse ese tipo de material, aunque no hay indicios de que xAI haya entrenado sobre esos datos. X no respondió al pedido de comentarios de Ars Technica.
Preguntas frecuentes sobre la demanda a xAI
¿Qué es el CSAM?
CSAM son las siglas en inglés de material de abuso sexual infantil. Se refiere a cualquier representación visual de abuso sexual de menores, incluyendo fotografías, videos e imágenes generadas por inteligencia artificial.
¿Qué es la Ley Masha?
La Ley Masha es una legislación federal de Estados Unidos que otorga a los sobrevivientes de CSAM el derecho a demandar civilmente a quienes produzcan, posean o distribuyan ese material, incluso si no pueden ser identificados los perpetradores originales.
¿Qué consecuencias podría tener esta demanda para xAI?
Si la demanda prospera, xAI podría verse obligada a destruir todo el CSAM almacenado en sus servidores y a bloquear a Grok de generar cualquier contenido sexualizado, incluyendo imágenes íntimas no consensuales. También podría enfrentar sanciones económicas significativas.