Deepfakes davant el jutge: com s'impugna —i com s'autentica— un vídeo quan qualsevol imatge pot ser mentida
Durant bona part de l'últim segle, una fotografia o un vídeo arribava a un procediment amb un avantatge psicològic extraordinari: si està enregistrat, va passar.
La intel·ligència artificial generativa ha acabat amb aquesta comoditat.
Avui una prova falsa pot semblar autèntica i, al mateix temps, una prova autèntica pot ser desacreditada simplement al·legant que ha estat generada o manipulada mitjançant IA. Aquest segon fenomen es coneix com liar's dividend, el «dividend del mentider».
La IA no només facilita fabricar proves falses. També facilita negar proves veritables.
La LEC ja tenia les eines
La Llei d'Enjudiciament Civil regula des de l'any 2000 els mitjans de reproducció de la paraula, el so i la imatge.
L'article 299.2 els reconeix com a mitjans de prova i els articles 382 a 384 en desenvolupen el règim.
La part que proposa un enregistrament pot acompanyar-lo de dictàmens i mitjans instrumentals, i la contrària pot aportar els seus quan qüestioni l'autenticitat o l'exactitud. El tribunal valora d'acord amb la sana crítica.
L'arquitectura processal ja existia. El que ha canviat és la càrrega tècnica de sostenir-la.
L'autenticitat no ha deixat jurídicament de presumir-se
No existeix una nova regla segons la qual tota fotografia hagi de considerar-se falsa fins que una pericial demostri el contrari.
Però a la pràctica ja no és prudent confiar únicament en l'aparença d'autenticitat.
Com més important sigui el suport, més gran haurà de ser la nostra capacitat per explicar qui el va obtenir, com, quin arxiu és l'original, què ha passat amb ell des de llavors i quins elements externs corroboren allò que mostra.
En l'era del deepfake, la procedència de la imatge s'ha convertit també en prova.
Quatre conceptes diferents
Procedència: d'on ve l'arxiu? Qui el va captar? Amb quin dispositiu? En quines circumstàncies?
Integritat: l'arxiu presentat és el mateix que es va preservar originalment o ha patit canvis?
Autenticitat: hi ha prou elements per sostenir que correspon al fet, a les persones, al moment i al context declarats?
Veracitat probatòria: allò que hi apareix demostra realment el fet jurídic que pretenem acreditar?
Un arxiu pot ser perfectament íntegre i contenir una escena preparada. I un arxiu autèntic pot demostrar molt menys del que pretén qui l'aporta.
Primera defensa: documentar l'origen
Aquí la prova de detectiu disposa d'un avantatge estructural.
Darrere la càmera hi ha una persona identificada. Un professional habilitat que pot comparèixer i dir: «Jo hi era».
Pot identificar el lloc, l'hora, la posició, el dispositiu, la conducta anterior i posterior, la continuïtat de l'observació i el material obtingut.
Comparem això amb un vídeo reenviat per missatgeria des d'un origen desconegut. Visualment poden semblar iguals. Probatòriament no ho són.
Preservar l'arxiu original
L'arxiu natiu es conserva.
No es treballa sobre l'únic original. No es substitueix per la versió enviada per missatgeria. No es guarda únicament el fragment interessant.
Es preserva el fitxer procedent del dispositiu i es generen còpies de treball.
Tota transformació pot eliminar metadades, informació de codificació, estructura del contenidor o dades tècniques útils per a una anàlisi posterior.
El hash: útil, però no màgic
Un resum criptogràfic permet obtenir una empremta matemàtica de l'arxiu. Si canvia un sol bit, l'empremta serà diferent.
Per tant, el hash pot acreditar que un determinat arxiu no ha estat modificat des del moment en què es va calcular aquesta empremta.
Però no demostra que el contingut sigui veritat.
Si algú genera un deepfake i calcula immediatament el seu hash, tindrem un deepfake perfectament íntegre.
El hash respon a «ha canviat aquest arxiu?»; no respon per si sol a «va passar realment allò que mostra?».
Traçabilitat i cadena de procedència
S'ha de poder explicar quan es va incorporar l'arxiu, qui el va obtenir, qui el va rebre, on es va emmagatzemar, quines còpies es van produir, qui hi va tenir accés i quines transformacions es van realitzar.
Però en l'era sintètica necessitem una pregunta anterior: com va néixer aquest arxiu?
Qui el va crear. Quin dispositiu hi va intervenir. Quin programari. Quines transformacions. Quin original existeix. Quina relació hi ha entre el fitxer i el fet físic.
A la cadena de custòdia hem d'afegir una autèntica cadena de procedència.
Corroborar la imatge amb la realitat
Suposem que apareix un vídeo aparentment perfecte.
La pregunta no hauria de ser només «sembla manipulat?», sinó també «què sabem independentment d'aquest vídeo?».
On era aquella persona? Qui més hi era present? Existeix una altra càmera? Hi ha testimonis? Un rebut? Un vehicle? Un document contemporani?
El deepfake pot fabricar una imatge convincent. El que resulta molt més difícil és fabricar retrospectivament tota la realitat que l'hauria d'envoltar.
Com impugnar un vídeo sospitós
Primer, determinar quin arxiu s'aporta: original, exportació, còpia de xarxa social, gravació de pantalla, reenviament.
Segon, realitzar anàlisi forense quan resulti nuclear per al litigi: metadades, estructura, compressió, discontinuïtats, àudio, sincronització, senyals d'edició i altres indicadors.
Tercer, investigar el context: ubicacions, testimonis, activitat, cronologies i altres suports independents.
La pericial pregunta «què és aquest arxiu?». La investigació pregunta «va passar realment allò que aquest arxiu afirma mostrar?».
Cap detector hauria de ser un oracle
Els sistemes de detecció de deepfakes competeixen amb generadors que evolucionen ràpidament.
Per això una pericial seriosa no hauria de prometre una màquina infal·lible que digui «vertader» o «fals».
Moltes vegades la conclusió rigorosa serà: «No s'han identificat indicis compatibles amb determinades formes de manipulació», o al contrari: «S'han detectat inconsistències que no encaixen amb la procedència declarada».
La millor autenticació serà multicapa: tècnica + procedència + custòdia + testimoni + corroboració externa.
L'AI Act europeu
Des del 2 d'agost de 2026 són aplicables amb caràcter general les obligacions de transparència del Reglament (UE) 2024/1689.
L'article 50 aborda el contingut sintètic: preveu mecanismes d'identificació llegibles per màquina per a determinats continguts generats o manipulats i deures de revelació en relació amb els deepfakes, amb les seves condicions i excepcions.
Però l'AI Act no crea una presumpció processal segons la qual «sense etiqueta = vertader» o «sense etiqueta = fals».
El jutge continuarà valorant la prova i nosaltres haurem de continuar demostrant-ne la procedència.
L'avantatge del detectiu en l'era sintètica
Quan un detectiu documenta correctament un fet, hi ha una cosa que una imatge anònima mai no tindrà: un testimoni del naixement de l'evidència.
Sap on era, què veia, quan va començar l'enregistrament, què va passar abans i després, quin dispositiu va utilitzar i com va preservar l'arxiu.
La intel·ligència artificial pot fabricar molts píxels. El que no pot fabricar retrospectivament amb la mateixa facilitat és una cadena completa, coherent i verificable de realitat.
Conclusió
Durant dècades preguntàvem «què mostra el vídeo?».
La IA ens obliga a començar per una altra pregunta: «per què hem de creure que aquest vídeo prové d'on diuen que prové?»
Necessitem origen, original, integritat, traçabilitat, context, corroboració i, quan calgui, pericial.
En un món on una imatge perfecta es pot crear en segons, el producte més valuós ja no serà la fotografia espectacular.
Serà una evidència amb una història completa que es pugui explicar i demostrar.
Lectura relacionada: La IA: Asedio a la privacidad — Editorial Tirant Lo Blanch
La veritat té mètode.