AP.
Dos adolescentes que utilizaron inteligencia artificial para crear fotos falsas de desnudos de sus compañeras de clase fueron puestos en libertad condicional el miércoles y quedaron bajo la custodia de sus padres.
Los chicos, que tenían 14 años en ese momento, admitieron a principios de este mes haber creado 59 imágenes de abuso sexual infantil. Los fiscales indicaron que manipularon fotos de niñas, muchas de ellas de Instagram, con imágenes virtuales de adultos que mostraban desnudez o actividad sexual.
Algunas de las víctimas eran compañeras de clase en la escuela Lancaster Country Day School, al oeste de Filadelfia. La policía declaró en documentos judiciales que una mujer informó que su hija le había dicho que una compañera había estado “tomando fotografías de estudiantes y utilizando tecnología de inteligencia artificial (IA) para representar a las alumnas menores de edad como si estuvieran desnudas”.
La audiencia de resolución celebrada el miércoles ante el juez Leonard Brown III del Tribunal de Primera Instancia del Condado de Lancaster fue la versión para menores de una audiencia de sentencia.
Además de la libertad condicional, a los chicos se les impusieron 60 horas de servicio comunitario cada uno. Brown indicó que, si no presentan más problemas legales, el caso podría ser archivado después de dos años. También se les ordenó no tener contacto con las víctimas y pagar una indemnización por un monto no especificado.
Al dictar sentencia, Brown afirmó no haber oído a ninguno de los dos chicos disculparse ni asumir la responsabilidad de sus actos. Si fueran adultos, añadió, probablemente irían a prisión estatal.
Durante el proceso, los chicos rechazaron varias oportunidades para dirigirse al juez. Posteriormente, uno de ellos se negó a hacer declaraciones fuera del juzgado.
“Este ha sido un proceso lamentable, largo y tortuoso para todos los involucrados”, declaró Heidi Freese, abogada de uno de los jóvenes. “Existían cuestiones legales subyacentes muy interesantes en torno a los cargos en este caso, y esas se decidirán en otro momento y en otro caso”.
El fiscal general de Pensilvania, Dave Sunday, ha declarado que el caso “ejemplifica el lado oscuro de la tecnología moderna y las redes sociales”.
“La conducta implicó el uso de la tecnología como arma para victimizar a niños inocentes que tenían fotos en línea. Huelga decir que el impacto en las víctimas es devastador”, declaró Sunday en un comunicado a principios de este mes.
La resolución del caso de Pensilvania se produce días después de que tres adolescentes de Tennessee demandaran a xAI, la empresa de Elon Musk, alegando que las herramientas Grok de la compañía transformaron sus fotos reales en imágenes explícitamente sexuales. Los estudiantes de secundaria buscan que la demanda se convierta en una demanda colectiva para representar a miles de personas que, según la demanda, fueron víctimas de abusos similares cuando eran menores de edad.
El escándalo ocurrido en Pensilvania en 2024 provocó una protesta estudiantil, la dimisión de los directivos escolares y la presentación de cargos penales contra los dos adolescentes.
Nadeem Bezar, un abogado de Filadelfia que representa al menos a 10 de las víctimas, dijo el martes que espera presentar una demanda “contra la escuela y cualquier otra persona que creamos que tenga culpabilidad en la creación y difusión de estos deepfakes”.
Dijo que aún no ha visto las fotos, pero espera que el proceso legal determine “exactamente cuándo, dónde y cómo la escuela supo, cómo los chicos crearon estas imágenes, qué plataformas utilizaron para crearlas y cómo se difundieron”.
Bezar dijo que las reacciones de las chicas han sido variadas, y que para algunas fue traumático.
“Estamos hablando de jóvenes adolescentes que tienen metas claras, les va bien en la escuela y tratan de hacer todo lo posible para encajar y encontrar su camino en la vida a esa edad, donde todo importa”, dijo Bezar.
A medida que la IA se ha vuelto más accesible y poderosa, los legisladores de todo el país han aprobado leyes destinadas a prohibir los deepfakes.
El presidente Donald Trump firmó el año pasado la Ley para Retirar Contenido Inapropiado, que ilegaliza la publicación de imágenes íntimas, incluyendo deepfakes, sin consentimiento, y exige que los sitios web y las redes sociales eliminen dicho material dentro de las 48 horas posteriores a la notificación por parte de la víctima.
Actualmente, cuarenta y seis estados cuentan con leyes que abordan el tema de las falsificaciones profundas (deepfakes), y se ha presentado legislación al respecto en los cuatro restantes: Alaska, Missouri, Nuevo México y Ohio, según el grupo de defensa del consumidor Public Citizen.
Los periodistas de Associated Press Geoff Mulvihill, en Haddonfield, Nueva Jersey, y Holly Ramer, en Concord, Nuevo Hampshire, contribuyeron a este artículo.
