AP.
Grok, el chatbot de inteligencia artificial de Elon Musk, enfrenta una reacción negativa de los gobiernos de todo el mundo luego de un reciente aumento en imágenes sexualizadas de mujeres y niños generadas sin consentimiento por la herramienta impulsada por inteligencia artificial.
El martes, el principal funcionario de tecnología de Gran Bretaña exigió que la plataforma de redes sociales X de Musk tome medidas urgentes, mientras que un legislador polaco lo citó como una razón para promulgar leyes de seguridad digital.
El brazo ejecutivo de la Unión Europea ha denunciado a Grok, mientras que funcionarios y reguladores en Francia, India, Malasia y Brasil han condenado la plataforma y pedido investigaciones.
La creciente alarma proveniente de distintos países apunta al potencial de pesadilla de las aplicaciones de nudificación que utilizan inteligencia artificial para generar imágenes deepfake sexualmente explícitas.
He aquí una mirada más de cerca:
Generación de imágenes
El problema surgió tras el lanzamiento el año pasado de Grok Imagine, un generador de imágenes con IA que permite a los usuarios crear vídeos e imágenes introduciendo texto. Incluye un “modo picante” que puede generar contenido para adultos.
La situación se disparó a finales del mes pasado cuando Grok, alojado en X, aparentemente empezó a aceptar un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros. A partir del martes, los usuarios de Grok aún podían generar imágenes de mujeres con solicitudes como “ponle un bikini transparente”.
El problema se agrava porque Musk presenta su chatbot como una alternativa más innovadora a sus rivales, con mayores garantías, y porque las imágenes de Grok son públicamente visibles y, por lo tanto, pueden difundirse fácilmente.
El grupo sin fines de lucro AI Forensics dijo en un informe que analizó 20.000 imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero y descubrió que el 2% representaba a una persona que parecía tener 18 años o menos, incluidas 30 de mujeres o niñas jóvenes o muy jóvenes, en bikinis o ropa transparente.
Respuesta de Musk
La empresa de inteligencia artificial de Musk, xAI, respondió a una solicitud de comentarios con la respuesta automatizada “Mentiras de los medios tradicionales”.
Sin embargo, X no negó la existencia del contenido problemático generado a través de Grok. Aun así, afirmó en una publicación en su cuenta de Seguridad que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, “eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos locales y las fuerzas del orden según sea necesario”.
La plataforma también repitió un comentario de Musk, quien dijo: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
Una lista cada vez mayor de países exige que Musk haga más para controlar el contenido explícito o abusivo.
Gran Bretaña
X debe abordar el problema “urgentemente”, dijo el martes la secretaria de Tecnología, Liz Kendall, y agregó que apoya un escrutinio adicional por parte del regulador de comunicaciones del Reino Unido, Ofcom.
Kendall dijo que el contenido es “absolutamente espantoso e inaceptable en una sociedad decente”.
“No podemos ni permitiremos la proliferación de estas imágenes degradantes y denigrantes, que están dirigidas desproporcionadamente a mujeres y niñas”.
Ofcom dijo el lunes que había establecido “contacto urgente” con X.
“Estamos al tanto de las serias preocupaciones planteadas sobre un artículo en Grok on X que produce imágenes de personas desnudas e imágenes sexualizadas de niños”, dijo el organismo de control.
El organismo de control afirmó que se puso en contacto con X y xAI para comprender qué medidas ha tomado para cumplir con las regulaciones británicas.
Según la Ley de Seguridad en Línea del Reino Unido, las plataformas de redes sociales deben prevenir y eliminar material de abuso sexual infantil cuando tengan conocimiento de ello.
Polonia
Un legislador polaco utilizó el martes a Grok como excusa para una legislación nacional de seguridad digital que reforzaría las protecciones para los menores y facilitaría a las autoridades la eliminación de contenidos.
En un vídeo publicado en línea, el presidente del Parlamento, Wlodzimierz Czarzasty, dijo que quería convertirse en el objetivo de Grok para destacar el problema, así como para pedir al presidente de Polonia que apoye la legislación.
“Últimamente, Grok está desnudando a la gente. Desnuda a mujeres, hombres y niños. Nos sentimos mal por ello. Sinceramente, casi quisiera que este Grok también me desnudara a mí”, dijo.
unión Europea
El brazo ejecutivo del bloque es “muy consciente” de que Grok está siendo utilizado para “contenido sexual explícito con algunos resultados generados con imágenes infantiles”, dijo el portavoz de la Comisión Europea, Thomas Regnier.
“Esto no es picante. Es ilegal. Es espantoso. Es repugnante. Así lo vemos nosotros, y esto no tiene cabida en Europa. No es la primera vez que Grok genera semejante producción”, declaró a la prensa el lunes.
Después de que Grok difundiera contenido que negaba el Holocausto el año pasado, según Regnier, la Comisión buscó más información en la plataforma de redes sociales X de Musk. La respuesta de X se está analizando actualmente, dijo.
Francia
La fiscalía de París dijo que está ampliando una investigación en curso sobre X para incluir deepfakes sexualmente explícitos después de que los funcionarios recibieran quejas de los legisladores.
Tres ministros del gobierno alertaron a los fiscales sobre “contenido manifiestamente ilegal” generado por Grok y publicado en X, según un comunicado del gobierno la semana pasada.
El gobierno también señaló problemas con el regulador de comunicaciones del país por posibles violaciones de la Ley de Servicios Digitales de la UE.
“Internet no es una zona sin ley ni una zona de impunidad: los delitos sexuales cometidos en línea constituyen delitos penales en sí mismos y están plenamente sujetos a la ley, al igual que los cometidos fuera de línea”, afirmó el gobierno.
India
El gobierno indio emitió el viernes un ultimátum a X, exigiéndole que retire todo el contenido ilegal y tome medidas contra los usuarios infractores. El Ministerio de Electrónica y Tecnología de la Información del país también ordenó a la empresa revisar el marco técnico y de gobernanza de Grok y presentar un informe sobre las medidas adoptadas.
El Ministerio acusó a Grok de “grave mal uso” de IA y de graves fallos en sus salvaguardas y aplicación al permitir la generación y difusión de “imágenes o vídeos obscenos de mujeres de forma despectiva o vulgar con el fin de denigrarlas indecentemente”.
El ministerio advirtió que el incumplimiento del plazo de 72 horas expondría a la empresa a mayores problemas legales, pero el plazo pasó sin ninguna actualización pública de la India.
Malasia
El organismo de control de las comunicaciones de Malasia dijo el sábado que estaba investigando a los usuarios de X que violaron las leyes que prohíben la difusión de “contenido groseramente ofensivo, obsceno o indecente”.
La Comisión de Comunicaciones y Multimedia de Malasia dijo que también está investigando los daños en línea en X y que citaría a un representante de la compañía.
El organismo de control dijo que tomó nota de las quejas públicas sobre el uso de las herramientas de inteligencia artificial de X para manipular digitalmente “imágenes de mujeres y menores para producir contenido indecente, groseramente ofensivo o de otro modo dañino”.
Brasil
La diputada Erika Hilton dijo que denunció a Grok y X ante el Ministerio Público Federal de Brasil y el organismo de control de protección de datos del país.
En una publicación en las redes sociales, acusó a ambos de generar y luego publicar imágenes sexualizadas de mujeres y niños sin consentimiento.
Dijo que las funciones de inteligencia artificial de X deberían desactivarse hasta que se realice una investigación.
Hilton, una de las primeras legisladoras transgénero de Brasil, denunció cómo los usuarios podían obligar a Grok a alterar digitalmente cualquier foto publicada, incluso “cambiando la ropa de mujeres y niñas por bikinis o haciéndolas sugerentes y eróticas”.
“El derecho a la propia imagen es individual, no se puede transferir a través de las ‘condiciones de uso’ de una red social, y la distribución masiva de pornografía infantil por parte de una inteligencia artificial integrada en una red social cruza todas las fronteras”, afirmó.
__
Los escritores de AP Claudia Ciobanu en Varsovia, Lorne Cook en Bruselas y John Leicester en París contribuyeron a este informe.
