Tribuna de Texas.
La desinformación y la información errónea son especialmente comunes en épocas electorales, y la difusión de contenido creado por IA (como el video generado por IA de Jasmine Crockett y John Cornyn bailando) solo ha dificultado distinguir los hechos de la ficción.
En The Texas Tribune, no utilizamos IA para crear contenido informativo. Nuestra política de IA prohíbe la publicación de fotografías o vídeos periodísticos creados o manipulados por IA generativa. En los casos en que las imágenes generadas por IA son el tema de interés periodístico de una noticia, las etiquetamos claramente como tales con una marca de agua y un pie de foto. Las plataformas de redes sociales no tienen normas tan estrictas.
Esto es lo que necesita saber si detecta una imagen, un vídeo o un audio sospechoso sobre las elecciones, especialmente en las redes sociales.
Verifique la fuente y el contexto
No existe una única solución para identificar contenido falso en los medios, y a veces no podemos estar 100% seguros de que algo fue generado por IA, pero algunos métodos bien establecidos de verificación de información siguen siendo válidos.
Si hay dudas sobre la autenticidad, un buen primer paso es buscar la fuente.
Esto nos lleva a algunas preguntas:
¿La foto o el vídeo se comparte dando crédito a un fotógrafo o agencia de noticias?
¿Proviene de una fuente de noticias creíble?
Para los videos, ¿hay múltiples ángulos del evento o imágenes similares de diferentes estaciones de noticias?
¿La imagen o el vídeo ha sido verificado por expertos?
Si desconoce el origen de una imagen, puede realizar una búsqueda inversa de imágenes en Google. Esto le mostrará si se publicó previamente y si fuentes confiables han confirmado su autenticidad.
Para los videos, puedes realizar una búsqueda inversa de imágenes en un solo fotograma de la secuencia. Toma una captura de pantalla del fotograma y úsala en la búsqueda inversa, como lo harías con una imagen normal.
Hay dos maneras de realizar una búsqueda inversa de imágenes. Para imágenes publicadas en línea, haz clic derecho sobre ellas y selecciona “Buscar imagen con Google Lens”. También puedes subir la foto directamente desde tu ordenador accediendo a Google.com y haciendo clic en el icono de la cámara.
Google Lens también te permite buscar en la imagen completa o solo en una parte. Incluso puedes copiar texto o traducir una frase directamente de una fotografía.
Una vez que se ejecuta una búsqueda, puede filtrar los resultados para ver imágenes visualmente similares o coincidencias exactas.
Esto puede ayudar a determinar si la imagen se publicó previamente en otro sitio web, si se sacó de contexto o si una imagen real se alteró mediante IA. También puede ayudar a identificar la fecha de publicación original de la imagen.
Al revisar los resultados, es fundamental verificar la legitimidad de todos los sitios que publicaron la imagen o el video. Es posible que parte del contenido haya sido manipulado o sacado de contexto hace años y que siga circulando desde entonces.
El contexto también importa. ¿Hubo noticias sobre el evento que se muestra en la imagen o el video? ¿Existe una transcripción del audio publicada por una fuente verificada? ¿El político diría públicamente lo que escuchaste en el audio viral?
Si no puede encontrar una fuente confiable para respaldar la imagen, el audio o el video, la recomendación es simple: no comparta el contenido.
Cómo verificar si una imagen fue generada por IA
Si bien la IA ha mejorado mucho a la hora de generar contenido desde su explosión en 2023 y los deepfakes son cada vez más difíciles de identificar, la tecnología aún tiene fallas que se pueden detectar.
La IA inicial no generaba las manos ni los dedos correctamente, pero ahora suele hacerlo. Aun así, siempre hay que comprobar si las manos tienen cinco dedos y si los contornos se ven nítidos. Si las manos sostienen un objeto, ¿parece natural?
Los ojos son otro detalle clave . El MIT Media Lab, un laboratorio de investigación de la Escuela de Arquitectura y Planificación del Instituto Tecnológico de Massachusetts (MIT), recomienda prestar mucha atención a esta parte del cuerpo, especialmente si la persona de la imagen usa gafas.
Es útil analizar si las sombras y los reflejos en las lentes tienen sentido dado el contexto circundante. A veces, la IA no muestra la perspectiva correcta de los elementos .
Si la persona en la foto parece tener una mirada vacía o una expresión facial inusual, eso también puede ser una señal de que fue generada por IA.
Los rostros y la textura de la piel pueden parecer particularmente artificiales.
Los verificadores de datos también recomiendan observar atentamente los dientes (si hay demasiados o parecen encogidos, estirados o desalineados) y el cabello (que puede mezclarse de forma poco natural con el fondo, verse demasiado rígido o parecer pegado a la forma de las cejas).
Una señal de que una imagen puede haber sido generada por IA es la presencia de personas u objetos duplicados en el fondo.
Finalmente, puedes recurrir a herramientas especializadas diseñadas para detectar este tipo de tecnología. Pero no confíes únicamente en las herramientas de detección de IA: no son infalibles.
Herramientas como Hive Moderation , AI or not , Image Whisperer o los detectores de IA de Hugging Face son gratuitas y accesibles, y permiten a los usuarios cargar una imagen sospechosa para recibir una estimación de la probabilidad de que haya sido creada mediante IA.
InVID – WeVerify es útil para buscar el origen del contenido. Se puede añadir como extensión de Chrome.
También puedes preguntarle a Gemini , el chatbot de IA de Google, si un contenido se generó con la tecnología de IA de Google. Cuando Google crea contenido generado con IA (como imágenes, vídeos, audio o texto), añade una marca de agua imperceptible que se puede detectar mediante la tecnología SynthID . Gemini puede identificar contenido creado con las herramientas de Google, pero no con IA generada por otras empresas.
Además, las herramientas de verificación de datos de Google pueden ayudar a mostrar si alguna organización de verificación de datos, como Politifact , Snopes o Factchequeado , ya ha verificado el contenido.
Aunque se pueden cortar o editar, también puedes buscar marcas de agua en la imagen de, por ejemplo, Gemini, Dall-E y Midjourney.
Cómo comprobar si un vídeo fue creado con IA
También puede ejecutar una búsqueda de imágenes inversa en fotogramas de video individuales para ayudar a localizar el contenido original, ya sea usando InVid o tomando capturas de pantalla para cargarlas en una búsqueda de imágenes inversa.
Preste mucha atención al rostro de la persona en la grabación y pregunte si la piel se ve demasiado suave o demasiado arrugada, o si el envejecimiento de la piel coincide con el cabello y los ojos.
Observa atentamente los ojos, las cejas, las gafas y la iluminación. Comprueba si las sombras caen donde deberían y si la persona parpadea demasiado o muy poco. ¿El cuerpo se mueve con naturalidad? ¿Las personas del vídeo actúan como personas reales?
Observe los movimientos de los labios para ver si están correctamente sincronizados con la voz.
Si el video muestra a un político, investigue y compare otros videos para determinar si la persona normalmente aparece de esa manera.
Por último, verifique si hay personas duplicadas en el fondo o si faltan partes del cuerpo (la IA aún tiende a clonar elementos en imágenes y fotogramas de video), si el fondo está realmente borroso y se mueve o si las palabras en los carteles son legibles.
También puedes ejecutar el video mediante Hive Moderation , InVID , AI or Not y Gemini . Con Hive Moderation, sube un video de menos de 20 segundos; los videos más largos deberán dividirse en varios clips. A veces, solo una parte del video se genera con IA, por lo que es necesario probar diferentes secciones.
Cómo saber si un clip de audio está generado por IA
El audio es el formato más difícil de detectar si fue creado con IA, pero algunos consejos incluyen escuchar atentamente si hay pausas inusuales, entonación, dicción o palabras repetidas.
Si el audio es de baja calidad o no se escucha claramente lo que dice la persona, podría ser una señal de que es falso o ha sido manipulado.
La IA suele tener dificultades para generar detalles naturales, como la respiración durante oraciones largas o la entonación variable entre palabras. También le resulta difícil reproducir acentos con precisión.
Si el audio parece ser de un político, compárelo con otros videos públicos y verificados de esa persona para ver si realmente coincide.
Más allá de buscar una transcripción completa en Google, preste atención a cambios repentinos en el tono o énfasis inusual en palabras que una persona real no enfatizaría de esa manera, como si tuviera una entonación robótica.
También puedes ejecutar el audio en Hive Moderation, AI or Not y el clasificador de voz de IA de ElevenLabs . Al igual que Gemini, ElevenLabs solo puede determinar si un audio se creó con su tecnología.
Hiya Deepfake Voice Detector analiza el audio en tiempo real para determinar si estás escuchando una voz humana real o algo inventado por IA.
