Deepfakes, mentides i IA: quan la realitat es converteix en opinió

Número 12 - I si tot el que veiem i llegim ja no fos fiable?

Hola, amants de la IA! 👾

Avui us porto una pregunta inquietant: i si tot el que veiem i llegim ja no fos fiable? No parlo d’aquelles cadenes de WhatsApp que la tieta reenvia amb “SISPLAU, DIFON!”, sinó de deepfakes tan convincents que podrien fer creure que el Papa porta un abric de Balenciaga.

Ah, espera. Això ja ha passat.

La fi de la veritat tal com la coneixíem?

Ens hem passat dècades intentant detectar notícies falses. Però mentre nosaltres avançàvem a peu, la IA ha agafat un jet privat. Ara no es tracta només de textos manipulats, sinó de vídeos i àudios que poden posar paraules a la boca de qualsevol.

El problema? La gent creu allò que vol creure. Si demà apareix un vídeo d’un president declarant la guerra, segur que molts cridaran “JA HO SABIA!” abans de contrastar-ho.

I això fa molta por. La desinformació ja no es basa en fotos pixelades ni en veus robòtiques. Ara, amb IA, es poden fabricar discursos falsos, simular trucades d’un banc i, en general, sembrar el caos amb imatges d’alta definició i so envoltant.

Quan ni els ulls ni les orelles són de fiar

Si abans es deia “ho he vist amb els meus propis ulls” com a garantia de veracitat, ara aquesta frase ha quedat obsoleta. La IA pot recrear qualsevol veu, qualsevol cara, qualsevol moment.

I aquí és on el joc es complica: com es pot demostrar que una cosa no ha passat si el vídeo és perfecte?

Ja hi ha casos reals: a Europa, un deepfake d’un ministre ha fet que polítics responguessin a entrevistes falses. A la Xina, la IA s’ha fet servir per simular trucades i robar diners. I el més inquietant: un empresari va perdre milions perquè un deepfake de la veu del seu cap li va demanar una transferència urgent.

Podem lluitar contra això?

Com sempre, la tecnologia que crea el problema també ofereix solucions. Hi ha IA dissenyades per detectar deepfakes, algorismes que busquen inconsistències i mitjans que intenten verificar fonts.

Però siguem realistes: el ritme de creació supera el de detecció. I la veritat mai no ha sigut tan fràgil.

Reflexió final: i ara què?

D’aquí a uns anys, la relació amb la informació serà molt diferent. Potser ja no ens creurem res fins que no ho veiem en directe. O potser, com passa sovint, ens cansarem de desconfiar i abraçarem la post-veritat amb resignació.

En tot cas, un consell no demanat: cada vegada que veieu un vídeo “escandalós”, compte amb compartir-lo abans de pensar-hi dues vegades. Potser és real. O potser és una IA jugant amb la percepció de la realitat.

I vosaltres, creieu que tenim alguna esperança d’escapar del caos informatiu? O simplement ens hem d’acostumar a viure en un món on res és el que sembla?

Però mentrestant…

Una pregunta inquietant

Sí, segur?

📏 Divertimento amb el vostre ChatGPT

Ja que avui hem parlat de deepfakes i manipulació digital, aquí teniu un prompt per ficar a ChatGPT i veure fins a quin punt pot reinventar la vostra biografia:

👉 Proveu de dir-li al vostre ChatGPT:

“Explica’m la meva vida com si fos el protagonista d’una pel·lícula d’acció dels anys 80.” 

A veure si us converteix en detectius renegats amb un passat fosc i una moto espectacular, o en científics que lluiten contra una IA descontrolada. O potser només en algú que intenta pagar el lloguer a temps...

Compartiu els millors resultats, que sempre ens agrada veure com la IA ens converteix en herois!

Fins la setmana vinent (si és que sóc jo qui us escriu i no un deepfake).