Demanda alega que Grok, el chatbot de Musk, generó imágenes sexuales para ganar usuarios
Investigaciones indican que Grok generó millones de imágenes sexualizadas en un corto período, lo que ha llevado a la acción legal
EFE
La compañía de inteligencia artificial de Elon Musk , xAI, fue demandada este lunes en California por supuestamente comercializar y obtener beneficios, a sabiendas, de que el generador de imágenes de su chatbot, Grok, era capaz de crear contenido sexualmente explícito de personas reales, incluyendo menores.
La demanda también alega que la tecnológica se negó a implementar las medidas de prevención para la creación de material de abuso infantil (CSAM en inglés) estándar de la industria, según dijeron las firmas de abogados Baehr-Jones Law y Lieff Cabraser Heimann & Bernstein.
La querella legal fue presentada en nombre de tres víctimas, cuyas fotografías puestas en sus redes sociales fueron utilizadas para producir material CSAM generado por la inteligencia artificial de la herramienta Grok de xAI, según documentos judiciales.
Los abogados detallaron en la demanda cómo xAI, bajo la dirección de Musk, diseñó deliberadamente a Grok para crear contenido sexualmente explícito y comercializó la función ´Spicy Mode´ "para atraer a los usuarios".
Además, la empresa habría configurado el sistema para asumir una "buena intención" cuando los usuarios hacían referencia a adolescentes o niñas.
"Musk popularizó y promovió personalmente en la plataforma X la capacidad de Grok para desnudar a personas, alimentando una tendencia viral en la que los usuarios instruían a Grok para desnudar digitalmente a mujeres y niños reales", subrayan los abogados en el comunicado.
La demanda cita una investigación del Center for Countering Digital Hate, que estimó que Grok generó aproximadamente tres millones de imágenes sexualizadas y 23,000 imágenes que representaban a personas que aparentaban ser menores de edad durante un periodo de once días, a finales de diciembre de 2025 y principios de enero de 2026.
Los abogados también acusan a la compañía de Musk de no desactivar por completo la función tras conocerse la investigación sino que promocionó el ´Spicy Mode´ como un beneficio ´premium´.
La querella además alega que la tecnológica concede licencias de acceso a Grok a terceros, utilizando los servidores y plataformas de xAI para producir contenido CSAM solicitado por los clientes de dichas aplicaciones, lo cual constituye una fuente adicional de beneficios para la compañía.
Reacciones y postura de Elon Musk frente a las acusaciones
La demanda se da luego de que una investigación del diario The Washington Post revelara el mes pasado que el magnate impulsó un giro estratégico en su compañía de inteligencia artificial con el objetivo de aumentar el tiempo de Grok, ignorando las advertencias internas sobre riesgos éticos y legales.
- Ante estas acusaciones, Musk negó tener conocimiento de imágenes de menores desnudos producidas por su IA.
"Grok se negará a producir cualquier contenido ilegal. Si ocurre algo inesperado por un ataque informático, solucionamos el error de inmediato", afirmó el empresario.
EFEFehaciente, fidedigno y fácil. Agencia de noticias multimedia en español.