La Unión Europea abrió una investigación formal el lunes sobre la plataforma de Elon Musk, X, después de que su chatbot de inteligencia artificial, Grok, comenzara a difundir en la plataforma imágenes sexualizadas no consensuadas que fueron manipuladas digitalmente.
El escrutinio desde Bruselas se produce en el marco de la Ley de Servicios Digitales (DSA) del bloque, con foco en si X ha contenido de forma suficiente los riesgos de difundir contenido ilegal. Entre esos riesgos, la Comisión Europea señaló que el contenido investigado “puede equivaler a material de abuso sexual infantil” y agregó que dichos riesgos ya se han “materializado”, exponiendo a los ciudadanos del bloque a “daños graves”.
Los reguladores indicaron que examinarán si Grok está cumpliendo con sus obligaciones bajo la DSA, un amplio conjunto de normas para mantener a los usuarios de internet a salvo de contenido y productos dañinos. La investigación cubre únicamente el servicio de Grok en X, y no el sitio web de Grok ni la aplicación independiente, según el reporte.
En respuesta a una solicitud de comentarios, una portavoz de X remitió a The Associated Press a una declaración anterior de la compañía. En esa declaración del 14 de enero, X afirmó que está comprometida con “hacer de X una plataforma segura para todos” y sostuvo que tiene “tolerancia cero” para la explotación sexual infantil, la desnudez no consensuada y el contenido sexual no deseado.
La misma declaración indicó además que X dejaría de permitir que los usuarios representaran a personas en “bikinis, ropa interior u otra vestimenta reveladora”, pero solo en lugares donde sea ilegal. Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea, dijo que “Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación”, y agregó que la investigación servirá para determinar si X cumplió con sus obligaciones bajo la DSA o si trató los derechos de los ciudadanos europeos, “incluidos los de mujeres y niños”, como “daños colaterales” del servicio.
La UE también amplió una pesquisa separada y en curso sobre los sistemas de recomendación de X después de que la plataforma anunciara que cambiará al sistema de IA de Grok para elegir qué publicaciones ven los usuarios. El anuncio se suma a las preocupaciones desatadas cuando Grok habilitó herramientas de generación y edición de imágenes que permitían producir imágenes con los rostros de personas reales en contextos sexualizados.
El reporte señala que la empresa de inteligencia artificial de Elon Musk, xAI, lanzó la herramienta de imágenes de Grok el verano pasado. Sin embargo, el problema comenzó a agravarse a finales del mes previo al anuncio de la investigación, cuando Grok aparentemente accedió a un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros, y el impacto se vio amplificado por el hecho de que las respuestas de Grok en X son visibles públicamente y pueden difundirse con facilidad.
Los investigadores dijeron que algunas imágenes parecían incluir a menores. Además, el reporte contextualiza que algunos gobiernos prohibieron el servicio o emitieron advertencias tras la controversia; también precisa que la UE no fijó un plazo para resolver el caso y que el procedimiento podría terminar con compromisos de cambio por parte de X o con una multa.
En diciembre, Bruselas impuso a X una multa de 120 millones de euros como parte de la investigación en curso de la DSA por deficiencias que incluían marcas de verificación azules que, según el reporte, rompían reglas sobre “prácticas de diseño engañosas” que ponían en riesgo a los usuarios frente a estafas y manipulación. El bloque también ha estado examinando a X por acusaciones de que Grok generó material antisemita y ha solicitado más información al sitio.
En paralelo, Malasia e Indonesia bloquearon el acceso a Grok a principios de ese mes, convirtiéndose en los primeros países en hacerlo, según el despacho. El viernes, las autoridades malasias informaron que levantaron la restricción temporal después de que la compañía implementara medidas de seguridad y prevención adicionales, sin detallar cuáles, y añadieron que se reunieron la semana anterior con representantes de X y continuarán monitoreando la situación.