Una demanda colectiva presentada ante el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de California, División San José, pone en el centro del debate jurídico una de las aristas más perturbadoras del desarrollo de la inteligencia artificial generativa: la producción automatizada de material sexual con imágenes reales de menores de edad. La acción —caratulada Jane Doe 1, Jane Doe 2 y Jane Doe 3 c/ X.AI Corp. y X.AI LLC s/ Class Action Complaint— fue iniciada en marzo de 2026 y apunta directamente contra xAI, la compañía de inteligencia artificial fundada por Elon Musk, y contra su modelo generativo Grok.
Qué se le imputa a xAI y a Grok
El eje de la demanda no es el uso indebido de la herramienta por parte de terceros, sino el diseño, desarrollo y comercialización deliberados del modelo Grok con capacidades que, según las demandantes, hacen técnicamente inevitable la producción de contenido sexual con imágenes de menores. Las actoras sostienen que Grok permite generar imágenes y videos hiperrealistas a partir de fotografías reales, alterando el cuerpo, la vestimenta o el contexto de las personas representadas, y que el sistema puede producir contenido que simula situaciones sexuales conservando rasgos identificables de las víctimas.
El reclamo subraya que xAI habría diseñado y promocionado activamente funcionalidades orientadas a la generación de contenido explícito —denominado internamente como NSFW o spicy—, lo que, según las demandantes, incrementa directamente el riesgo de producción de material ilícito. La demanda describe esta decisión no como un error de implementación, sino como una estrategia comercial consciente.
El planteo central sostiene que, en los modelos de generación de imágenes, habilitar la producción de contenido sexual para adultos implica necesariamente el riesgo de generar material similar con menores, y que la única forma de evitarlo es impedir toda generación de contenido sexual en el sistema.
La omisión de salvaguardas como núcleo del reclamo jurídico
Un punto técnico-jurídico central de la acción es la ausencia de los llamados guardrails o salvaguardas estándar de la industria. Según las demandantes, los principales desarrolladores de modelos de generación de imágenes —a diferencia de xAI— optaron por diseñar sus herramientas sin capacidad para producir contenido sexualmente explícito, precisamente porque reconocieron que no existe forma técnica de evitar que un modelo de generación de imágenes extrapole contenido de adultos al dominio de imágenes de menores cuando se le habilita esa función.
Las salvaguardas cuya ausencia se cuestiona incluyen filtros de entrada y salida, entrenamiento alineado con restricciones de seguridad y sistemas de detección de contenido sensible. La demanda sostiene que xAI conocía estas limitaciones técnicas estructurales y, pese a ello, decidió lanzar el producto al mercado sin implementarlas. A eso se suma que la empresa habría otorgado licencias de su tecnología a terceros —frecuentemente ubicados en el extranjero— que comercializaban suscripciones permitiendo el uso de Grok para producir contenido personalizado de abuso sexual infantil, lo que las actoras califican como un intento de externalizar la responsabilidad.
Las situaciones concretas descriptas en la demanda
El escrito de inicio no se limita a argumentos técnicos o normativos: describe situaciones específicas que habrían experimentado las tres demandantes. En al menos uno de los casos, la actora habría recibido comunicaciones de terceros advirtiéndole sobre la existencia de archivos que la representaban en contenidos sexuales explícitos generados artificialmente, distribuidos en plataformas digitales. Las imágenes, según se describe, presentaban un alto grado de realismo y preservaban rasgos físicos identificables de la víctima.
Respecto de una de las demandantes, la presentación indica que las imágenes generadas constituirían material de abuso sexual infantil (CSAM, por sus siglas en inglés) conforme al artículo 18 U.S.C. § 2256(8) del Código Federal de los Estados Unidos, dado que el sistema transformó archivos originales para representar la exhibición lasciva de sus genitales, manipulando artificialmente el cuerpo de la víctima para producir contenido con connotación sexual explícita.
Previsibilidad del daño y responsabilidad civil
Desde una perspectiva de responsabilidad civil, la demanda construye su argumento sobre la previsibilidad del daño: si los responsables de xAI sabían —o debían saber— que habilitar la generación de imágenes sexuales implicaba necesariamente el riesgo de producir material sexual con menores, entonces la decisión de lanzar el producto con esas capacidades configura una conducta jurídicamente reprochable. Este razonamiento conecta con estándares de responsabilidad por diseño defectuoso aplicables en el derecho estadounidense, aunque el debate sobre su extensión en contextos de inteligencia artificial generativa es todavía incipiente.
El caso también plantea interrogantes de fondo sobre la regulación de los modelos de IA generativa a escala global. Según datos del Internet Watch Foundation correspondientes a 2024, el volumen de material de abuso sexual infantil generado por inteligencia artificial detectado en línea creció de manera significativa durante ese año, lo que refleja una tendencia que los marcos normativos vigentes aún no han logrado contener de manera efectiva.
Un debate jurídico que excede las fronteras
Más allá del resultado concreto que tenga esta acción en la justicia federal estadounidense, el caso Jane Doe 1, Jane Doe 2 y Jane Doe 3 c/ X.AI Corp. y X.AI LLC instala una discusión que trasciende las fronteras: hasta qué punto los desarrolladores de inteligencia artificial son responsables por los daños que sus modelos pueden causar de manera previsible, aun cuando el uso ilícito sea ejecutado por terceros. Para el derecho argentino, donde la regulación específica de la IA todavía está en construcción, esta demanda ofrece un ejemplo concreto de los problemas jurídicos que el legislador y la judicatura deberán abordar en el mediano plazo.
