👁️ A Renfe li agrades molt… potser massa?

Número 13 - Quan Renfe et vigila mentre els trens arriben tard: prioritats de la IA ferroviària" 🚆👁️

Hola, amants de la IA! 👾

Si sou d’aquells que quan passeu per una càmera de seguretat poseu cara de persona respectable (tot i que només aneu a comprar llet), aneu-vos acostumant: Renfe ha decidit que el vostre trajecte en tren serà digne d’un thriller distòpic.

Sí, estimats passatgers, l’empresa ha instal·lat milers de càmeres de videovigilància intel·ligent en 415 estacions, i no contents amb això, en volen afegir 182 més a partir del març. Objectiu oficial? “Millorar la seguretat i l’experiència del client”. Traducció? Fer-nos part d’un experiment massiu de control digital finançat amb diners europeus.

Però abans de posar-nos paranoics (o realistes), fem un viatge per les meravelles de la nova Renfe 3.0.

🎥 Benvinguts al reality show de la vostra vida quotidiana

Diuen que aquestes càmeres no només enregistren, sinó que analitzen comportaments, detecten baralles, segueixen aglomeracions i fins i tot investiguen el frau en els accessos. Tot gràcies a una intel·ligència artificial que, per descomptat, funciona de manera “anònima i automatitzada” (com si això ens fes sentir més tranquils).

Les preguntes evidents són: qui controla aquestes dades? On van? Qui garanteix que no s’utilitzaran per altres propòsits? Però, vaja, segur que Renfe ens donarà explicacions clares i detallades. O no.

Però no patiu! Ens diuen que les imatges es processen i s’eliminen en mil·lisegons. Ara bé, abans o després d’entrenar més algoritmes de reconeixement facial? 🤔

🕵️‍♂️ De la seguretat a la paranoia hi ha una línia (i Renfe l’ha creuat)

D’acord, ningú vol estacions insegures. Però aquest fervor tecnològic per vigilar-nos no sembla tant un servei públic com una adaptació accelerada del model de control xinès, on la IA et detecta abans que puguis fer un esternut sospitós.

I ja posats a preguntar, realment aquestes càmeres aturen delictes? O només serveixen per registrar i sancionar a posteriori? Perquè si algú es pensa que una IA evitarà una baralla a les 7 del matí en un rodalies ple de gent mig adormida, potser hauria de baixar del núvol tecnològic.

El millor de tot és com posen al mateix nivell de risc un passatger que es cola sense pagar i algú amb intencions realment perilloses. Per a Renfe, sembla que saltar un torn d’accés mereix el mateix tractament tecnològic que prevenir un atac real a les vies del tren. És a dir, si t’oblides de validar el bitllet, probablement t’analitzaran amb el mateix zel que un agent de la CIA vigilant una amenaça terrorista.

És aquest el concepte de seguretat que volem? On la gran prioritat és detectar qui no ha pagat mentre el servei en si continua sent un desastre?

A més, com sempre, aquestes mesures arriben sense gaire debat públic. Perquè, siguem sincers, qui ha decidit que aquesta sigui la prioritat en lloc d’uns trens més puntuals?

⚖️ Quan la IA decideix qui és sospitós (i s’equivoca)

Un altre problema d’aquestes meravelloses IA de seguretat és que no són tan intel·ligents com ens les venen. Més aviat són sistemes altament esbiaixats que sovint amplifiquen discriminacions i errors sistemàtics.

Si no, preguntin a Londres. L’any passat, la policia va haver de reduir dràsticament l’ús del reconeixement facial després que es demostrés que el sistema tenia un 81% de falsos positius, identificant persones innocents com a delinqüents. Sí, vuit de cada deu persones acusades per la IA no havien fet res.

O mirem als Estats Units, on el 2020 la ciutat de Boston va prohibir l’ús del reconeixement facial després de múltiples casos en què homes afroamericans eren detinguts per errors de la IA. És més, empreses com IBM, Microsoft i Amazon han retirat o limitat els seus sistemes de reconeixement facial per la seva incapacitat de funcionar de manera justa i imparcial.

I ara pensem en això aplicat a Renfe. Si la IA "detecta" una conducta sospitosa, qui decideix què passa després? Un vigilant? Un algoritme? Tindràs dret a defensar-te davant d’una màquina que no sap distingir una discussió sobre futbol d’una baralla real?

Diuen que aquesta tecnologia només busca millorar la seguretat. Però la realitat ens diu que, quan li donem a una IA el poder de predir comportaments humans, el que realment fem és perpetuar prejudicis.

🚄 IA per vigilar-te, però no per millorar el servei

Mirem-ho bé. 26 milions d’euros gastats en càmeres per detectar qui es cola, mentre el servei de Renfe continua sent una barreja entre el joc de la paciència i una prova de supervivència. Trens amb retards crònics, serveis deficients i recorreguts absurdament complicats… però, eh, que ara tindrem més càmeres!

És curiós com en lloc d’invertir en infraestructures més modernes, horaris puntuals o ampliar línies perquè no sempre haguem de passar per Madrid per anar a qualsevol lloc, s’opti per l’opció més fàcil: controlar els passatgers.

Perquè clar, què és més senzill?

• ✅ Redissenyar una xarxa ferroviària eficient?

• ✅ Augmentar la freqüència de trens per evitar aglomeracions?

• ✅ Fer que les estacions siguin més accessibles?

• ❌ O posar càmeres per detectar qui salta el torn i dir que així millorem l’experiència del client?

Mentre els problemes estructurals de Renfe continuen igual, s’aposta per gastar els fons europeus en videovigilància intel·ligent. Un petit detall que segurament als viatgers que cada dia pateixen retards i trens atrotinats els semblarà un ús magnífic dels seus impostos.

Però clar, és més fàcil posar més control sobre els usuaris que controlar com pot ser que un tren que havia de sortir a les 7:30 acabi sortint a les 8:10 sense explicació.

I com diu la dita: si no pots millorar el servei, almenys que sembli que la culpa és dels passatgers.

🔮 I ara què?

Si acceptem aquestes tecnologies sense qüestionar-les, el següent pas serà normalitzar-les. Avui càmeres intel·ligents a les estacions, demà control de comportament en temps real a tot arreu. I el pitjor és que ni ens sorprendrà.

Però potser encara hi som a temps. Potser hauríem de començar a preguntar qui supervisa aquests sistemes, quins protocols de privacitat hi ha i si realment volem viure en una societat on ser vigilat 24/7 sigui la norma i no l’excepció.

I vosaltres, què en penseu? Això és seguretat o control disfressat? Us sentiu més segurs amb aquestes tecnologies o més observats que un personatge de "Black Mirror"? 🚉👀

Però mentrestant…

Una pregunta inquietant

Sí, segur?

📏 Divertimento amb el vostre ChatGPT

Ja que avui hem parlat de de Renfe… no deixis d’utilitzar aquest prompt:

👉 Proveu de dir-li al vostre ChatGPT:

Fes-me un relat, curt, de ciència-ficció on les càmeres de videovigilància de Renfe desenvolupen consciència pròpia i decideixen prendre el control del sistema ferroviari. Comencen amb petites venjances contra els passatgers que arriben tard i acaben reprogramant els trajectes per a un pla secret que només elles coneixen

Avisa’m si ChatGPT et diu que “com a IA no pot fer això”... perquè potser ja han activat el mode de vigilància!

Fins la propera! (O fins que una càmera de Renfe ens detecti escrivint aquest text…) 😉