Daniel Púa, säkerhetschef på Magnific: "ingen person vid första anblicken kan vara 100% säker på om det är AI eller inte AI"
Vid det här laget har vi alla varit i situationen att tro på en bild, för att senare upptäcka att den gjordes med AI. Detta har skapat en kollektiv misstro, till den grad att vi tvivlar på alla bilder vi ser. För att fördjupa oss i detta ämne pratade vi med Daniel Púa, säkerhetschef på Magnific (tidigare Freepik), ett av de mest populära bild- och videogenerativa AI-verktygen.
Detta är vad han tycker om detta problem och de möjliga lösningarna det innebär.
Oupptäckbar. I slutet av förra året lanserade Google Nano Banana Pro och för första gången upptäckte vi att vi inte kunde skilja en AI-bild från en riktig. Med den hastighet med vilken AI-modeller avancerar, idag har inte ens någon som granskar detta innehåll dagligen ett idiotsäkert trick.
Daniel Púa säger att "Det beror på modellen som används och uppmaningen som ges", men inser att "praktiskt taget ingen person vid första anblicken kunde vara 100% säker på om det är AI eller inte AI." Detaljnivån har nått en punkt där syn inte längre är ett tillförlitligt verktyg.
Videon är väldigt nära. Stillbilden är redan förlorad, men i videon finns det fortfarande ledtrådar om att den genereras: "I videon är det lättare att upptäcka den på grund av sekvensen av hur den avancerar, på grund av vissa fysiksaker som inte är vettiga... Det är två steg bakom." Men enligt Púa håller den marginalen snabbt på att stängas. "De senaste videomodellerna fungerar redan superbra, och det enda som återstår är att polera detaljerna, precis som har hänt med bilderna." På frågan om hur lång tid som återstår innan videon inte heller går att urskilja svarar Púa "Kanske ett år eller så." I Xataka Den största experten på falsk AI har tappat hoppet: "Om ett eller två år kommer hela vårt visuella system att vara värdelöst" Vattenstämplar.
När vårt öga inte längre är pålitligt måste vi ta till andra lösningar för att skilja AI-innehåll från verkligt innehåll. En av dessa lösningar är märkning eller vattenstämplar. Daniel Púa anser att det är en effektiv metod, men "för att det ska vara vettigt måste det antas av alla modeller lika." Han ger som exempel Googles SynthID, som "modifierar vissa specifika pixlar för att markera att den här bilden genereras av AI." Problemet är att så länge det är något som bara ett fåtal modeller använder så bevisar det ingenting: "det faktum att en bild inte har pixlarna betyder inte att den är verklig, utan helt enkelt att den genereras av en AI som inte använder det systemet", En annan lösning.
Det finns ett annat system, C2PA, som är en öppen standard och som fungerar annorlunda: istället för att markera bilden sparar den hela sin historik i metadatan, som vilken modell som genererade den, vilken annan modell den redigerades med senare och det exakta datumet. Men den har samma akilleshäl: "Den informationen går i metadatan. Om du använder ett verktyg för att radera den, eller tar en skärmdump, eller skickar bilden via WhatsApp (som redan tar bort metadatan), går den signaturen förlorad." Púa erkänner att det är svårt att nå en enda lösning, men menar att "vi borde nå en punkt där alla modeller är överens." Hur man undviker att bli lurad.
Om varken SynthID-märkena eller C2PA-standarden är den definitiva lösningen, vad återstår för vanliga användare att undvika att bli skruvade? Daniel Púa har inte lösningen, men han ger oss en ledtråd som borde få oss att misstro: "Om en bild kommer till dig utan någon typ av metadata bör den göra dig misstänksam, för även ett foto du tar med din mobiltelefon har metadata." Utöver metadata rekommenderar kriminaltekniska analysexperter att titta på några detaljer i bilderna, till exempel om försvinnningspunkterna konvergerar på en enda punkt, om skuggorna överensstämmer med ljusets position eller om reflektionerna är vettiga. Vi måste skärpa vår vision om vi inte vill åka fast.
Bild | Magnific, publicerad i Xataka | AI genererar redan foton som inte kan skiljas från verkligheten, så folk använder det för att samla in falska returer
Originalkälla
Publicerad av Xataka
7 august 2026, 13:00
Denna artikel har översatts automatiskt från spanska. Klicka på länken ovan för att läsa originaltexten.
Visa originaltext (spanska)
Rubrik
Daniel Púa, jefe de seguridad en Magnific: "ninguna persona a primera vista podría estar 100% segura de si es IA o no es IA"
Beskrivning
A estas alturas, todos nos hemos visto en la situación de creernos una imagen, sólo para descubrir después que estaba hecha con IA. Esto ha creado una desconfianza colectiva, hasta el punto de hacernos dudar de todas las imágenes que vemos. Para profundizar más sobre este tema hemos hablado con Daniel Púa, jefe de seguridad en Magnific (antes Freepik), una de las herramientas de IA generativa de imágenes y vídeo más populares. Esto es lo que opina sobre esta problemática y las posibles soluciones que plantea. Indetectables. A finales del año pasado Google lanzó Nano Banana Pro y, por primera vez, nos encontramos con que no éramos capaces de distinguir una imagen IA de una real. Con la velocidad a la que avanzan los modelos de IA, hoy en día ni siquiera alguien que revisa este contenido a diario tiene un truco infalible. Daniel Púa dice que "Depende del modelo que se utilice y del prompt que se le dé", pero reconoce que "prácticamente ninguna persona a primera vista podría estar 100% segura de si es IA o no es IA". El nivel de detalle ha llegado a un punto en el que la vista ya no es una herramienta fiable. El vídeo está muy cerca. La imagen fija ya es terreno perdido, pero en vídeo todavía hay pistas de que es generado: "En el vídeo sí que es más fácil detectarlo por la secuencia de cómo avanza, por ciertas cosas de la física que no tienen sentido... Va dos pasos por detrás". Sin embargo, según Púa ese margen se está cerrando rápidamente. "Los últimos modelos de vídeo ya trabajan superbien, ya lo único que queda es pulir detalle, igual que ha pasado con las imágenes". A la pregunta de cuánto tiempo queda para que el vídeo sea también indistinguible, Púa responde "A lo mejor un año y pico". En Xataka El mayor experto en fakes IA ha perdido la esperanza: "En un año o dos, todo nuestro sistema visual será inútil" Marcas de agua. Cuando nuestro ojo deja de ser fiable, toca recurrir a otras soluciones para distinguir el contenido IA del real. Una de estas soluciones es el etiquetado o marcas de agua. Daniel Púa cree que es un método efectivo, pero "para que tenga sentido tiene que ser adoptado por todos los modelos de forma igualitaria". Pone como ejemplo el SynthID de Google, que "modifica ciertos píxeles concretos para marcar que esa imagen está generada por IA". El problema es que mientras sea algo que sólo usan unos pocos modelos, no prueba nada: "el hecho de que una imagen no tenga los píxeles no significa que sea real, sino simplemente que está generada por una IA que no usa ese sistema", Otra solución. Existe otro sistema, el C2PA, que es un estándar abierto y funciona de forma distinta: en lugar de marcar la imagen, guarda en los metadatos todo su historial, como qué modelo la generó, con qué otro fue editada después y la fecha exacta. Pero tiene el mismo talón de Aquiles: "Esa información va en los metadatos. Si usas una herramienta para borrarlos, o haces una captura de pantalla, o mandas la imagen por WhatsApp (que ya de por sí borra los metadatos), esa firma se pierde". Púa reconoce que es complicado llegar a una solución única, pero cree que "habría que llegar a un punto en el que todos los modelos se pongan de acuerdo". Cómo evitar que te la cuelen. Si ni las marcas de SynthID ni el estándar C2PA son la solución definitiva ¿qué nos queda a los usuarios de a pie para que no nos la cuelen? Daniel Púa no tiene la solución, pero nos da una clave que debería hacernos desconfiar: "Si te viene una imagen sin ningún tipo de metadato, ya te tiene que hacer sospechar, porque hasta una foto que haces con el móvil lleva metadatos". Además de los metadatos, los expertos en análisis forense recomiendan fijarnos en algunos detalles de las imágenes, como por ejemplo que los puntos de fuga converjan en un solo punto, que las sombras sean coherentes con la posición de la luz o que los reflejos tengan sentido. Toca afinar la vista si no queremos que nos la cuelen. Imagen | Magnific, editada En Xataka | La IA ya genera fotos indistinguibles de la realidad, así que la gente está usándola para cobrar devoluciones falsas (function() { window._JS_MODULES = window._JS_MODULES || {}; var headElement = document.getElementsByTagName('head')[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement('script'); instagramScript.src = 'https://platform.instagram.com/en_US/embeds.js'; instagramScript.async = true; instagramScript.defer = true; headElement.appendChild(instagramScript); } })(); - La noticia Daniel Púa, jefe de seguridad en Magnific: "ninguna persona a primera vista podría estar 100% segura de si es IA o no es IA" fue publicada originalmente en Xataka por Amparo Babiloni .
