Il mago, il corpo e la macchina

Perché dobbiamo parlare di controllo dei corpi quando affrontiamo l'intelligenza artificiale

Ciao,

questa è Bolena, una newsletter poco gentile e senza fretta che parla di corpi.

Oggi parliamo di bias, controllo dei corpi, trend di tik tok, intelligenza artificiale, incantesimi e del Mago di Oz.

Faccio un giro largo, ma alla fine arrivo.

Sempre,

G.

All’inizio c’era solo la strada. Gialla, irregolare, disseminata di crepe sottili come vene sotto la pelle di un gigante. Era stato detto che portava al cuore di tutto, che bastava seguirla con fede e resistenza per arrivare al punto in cui le cose smettono di essere confuse e prendono una forma nitida. Dorothy l’aveva creduto. La promessa della Città di Smeraldo le si era piantata in testa come un chiodo sottile: lì, alla fine della strada, il Mago. Lì, alla fine della strada, qualcuno che sapeva. Lì, alla fine della strada, qualcosa che potesse darle ciò che voleva.

Non era sola. Altri l’avevano accompagnata, ognuno con la sua mancanza appuntata al petto come una spilla: il desiderio di un cuore, il bisogno di un cervello, la speranza di coraggio. Strane creature, specchi deformati del suo stesso viaggio. Perché anche lei cercava qualcosa, anche se non sapeva più bene cosa. Tornare a casa, forse. Ma che cos’era casa? Una piccola fattoria persa tra i campi, un cielo senza confini, la voce dello zio che la chiamava all’ora di cena. Forse. O qualcosa che non si tocca con le mani ma che, come un uragano, crea un nuovo ordine dalla distruzione, un’idea di sé che aveva smarrito nel vento.

La Città di Smeraldo era esattamente come l’avevano descritta: troppo verde. Un posto in cui la meraviglia sembrava addomesticata, come un animale raro costretto a camminare in cerchio dentro una gabbia dorata. E poi il Mago. L’enorme volto sospeso nell’aria, la voce cavernosa, la fiamma improvvisa che si accendeva nel nulla. Un’apparizione fatta per asciugare ogni dubbio, per rendere superflua qualsiasi domanda. Ma mentre il Leone si inginocchiava, mentre lo Spaventapasseri restava in equilibrio precario tra la paura e la venerazione, mentre l’Uomo di Latta inclinava il capo come se volesse sentire meglio, Dorothy avvertiva una nota stonata sotto lo sfarzo.

Era lo sguardo di quell’enorme volto meccanico, fisso ma privo di vera attenzione. Era il modo in cui le parole del Mago arrivavano con un tempo sospetto, un’eco leggermente sfasata, come suggerite da lontano. Ma alla fine, forse, era solo la stanchezza più profonda, quella di chi ha camminato tanto e improvvisamente teme di non aver trovato nulla.

Poi un fiato leggerissimo d’aria cambia la storia, lo sguardo si sposta dal volto meccanico e guarda dietro, perché il tendaggio si scosta. E qui comincia la nostra storia.

Shooting, Tik Tok e i corpi

Pochi giorni fa la mia amica Sofia mi scrive “c’è un trend su Tik Tok che devi assolutamente vedere” e poi mi lancia un link. Nel giro di un paio d’ore sono riuscita ad addomesticare abbastanza bene l’algoritmo, tanto da poter usufruire di 398 video in cui l’intelligenza artificiale, dopo aver ricevuto una foto dell’utente, crea una sorta di shooting in bianco e nero. Nei primi video, ammetto, non ho fatto molto caso al commento dell’utente perché ero interessata a segnare in che modi l’AI modificava i corpi per renderli “migliori” a suo dire. Solite cose, ormai: i corpi grassi diventano miracolosamente magri, i corpi disabili diventano abili, and so on.

Abbiamo visto tante app fare la stessa cosa negli ultimi anni, ma devo sottolineare che questo filtro è particolarmente intrusivo nella manipolazione del corpo. Devo dire che fino a questo punto non avevo particolare interesse a scrivere qualcosa sebbene siano argomenti che porto avanti, perché non c’è nulla di diverso dalle vagonate di cose già scritte da altre persone e che si possono riassumere in una sola frase senza 16 slides di carosello: “L’intelligenza artificiale ha dei bias”. Non lo trovo nemmeno un pensiero particolarmente rivoluzionario, avendo lei appreso da cascate e cascate di nostri dati, che sono il prodotto complesso di simboli, marchi, insegnamenti, stereotipi, convinzioni e automatismi del nostro stare al mondo e noi al mondo ci stiamo navigando letteralmente nei bias. Quindi certo, l’AI snellisce i corpi, toglie la carrozzina alle persone disabili, stabilisce che i CEO di un’azienda possono essere solo maschi bianchi e che la prostituzione può essere rappresentata bene usando persone bipoc perché noi crediamo in tutte queste cose. Ma, ancora una volta, non è questo che mi interessa.

Al video 129 - l’ho segnato perché volevo rendermi conto anche del mio grado di assimilazione di alcune dinamiche - la ragazza dice “finalmente ho visto come sarei magra, ora dimagrisco” e devo dire che questo l’ho trovato particolarmente interessante. Può sembrare un commento innocuo o addirittura propositivo, può addirittura fornire all’AI un’aurea positiva perchè il bias grassofobico ci fa subito dire che può contribuire al miglioramento, al benessere, alla salute delle persone, ma non è così. Quello che l’AI fa è un controllo dei corpi proiettando immagini che non richiedono una nostra codificazione creativa, rendendoci soggetti passivi.

L’incanto e l’illusione

Alla luce dello smascheramento delle Big Tech in concomitanza con l’insediamento di Trump (ne parla Philip Di Salvo in questo articolo su Wired), il tema dei bias dell’Intelligenza Artificiale non può più essere trattato come una naturale trasmissione di dati che influisce sui processi generativi algoritmici, ma dobbiamo inserire il tema dell’intenzione. I bias non sono, quindi, un incidente di percorso che accade nel processo di apprendimento della macchina, ma informazioni intenzionali che trasformano l’intelligenza artificiale in uno strumento disciplinante.

Potremmo dedurre in modo fallace che anche i social network agiscono nello stesso modo, ma non è così. L’intento con cui noi approcciamo le immagini digitali può essere simile nell’origine, ma cambia radicalmente l’esperienza cognitiva e la codificazione delle immagini che riceviamo. Quando navighiamo sui social network e ci imbattiamo in immagini di corpi differenti dal nostro, il nostro cervello compie un'operazione immaginativa sorprendente. Inizia una sorta di trasmigrazione tra quel corpo e il nostro potenziale, lasciando spazio alla nostra capacità creativa di immaginarci in infiniti modi.

Questo processo, però, non avviene in un vuoto culturale. Anche qui, partiamo da un set di modelli simbolici potenti, che assimiliamo e che poi influenza le immagini mentali che creiamo. Questi modelli agiscono come un filtro, guidando e limitando le possibilità del nostro immaginario.

Tuttavia, l’agency resta nostra. È il nostro vissuto individuale a intrecciarsi con questi modelli, generando una produzione visuale che ci appartiene. In modo più sintetico, ciò che immaginiamo è un’opera unica, frutto della nostra storia personale e del contesto che ci circonda.

Resta, dunque, l’incanto, la nostra capacità di creare sussurrando parole a mondi nuovi e spesso, certo, questi sono assurdi o fantastici, ma in ognuno di essi noi siamo parte integrante della formulazione dell’incantesimo.

Anche l’AI compie quello che a noi può sembrare un incantesimo, ma noi non partecipiamo al processo di creazione, diventando meri destinatari passivi. La direzione è gerarchica, perché a noi arrivano dall’alto idee già formulate in immagini che ritraggono il nostro corpo. Non è previsto uno spazio di messa in discussione nella nostri mani prima che un’intelligenza generativa trasformi il nostro aspetto e ce lo proietti davanti.

L’incantesimo dell’algoritmo è un falso percepito. Quello che per noi avviene per incanto - e come potrebbe essere diversamente trovandoci davanti una versione dei nostri corpi che risponde non solo ai canoni culturali, ma spesso anche ai desiderata che la società ha incastrato in fondo alla nostra testa - dicevo quello che per noi avviene per incanto, in realtà è un gioco di prestigio dove l’illusione viene prodotta da una meccanismo nascosto fatto di leve a pressione e circuiti elettrici. Non un incantesimo, ma il trucco di un mago che muove gli ingranaggi della sua illusione per affascinarci e spingerci in una direzione ben precisa: conformare i nostri corpi.

Cosa succede ai nostri corpi se togliamo l’incanto della nostra partecipazione?

The Wonderful Wizard of OZ

E allora accade, come accadono certe cose nella vita: non con un lampo, non con uno scoppio, ma con un movimento silenzioso, quasi impercettibile. Un istante prima, la stanza era piena di quella gravità verde e pulsante, quella promessa di potenza insondabile, e ora non più. Ora c’è soltanto un uomo — le spalle curve, le dita che tremano su leve che sembrano antiche e arrugginite. E Dorothy lo guarda, prima senza capire, poi con uno di quei sentimenti che non hanno un nome, uno strano impasto di vergogna e sollievo. Perché dietro il grande Mago non c’è alcun grande mistero, soltanto il respiro affannoso di un uomo qualunque, eppure non si sente delusa. Non proprio, almeno. È come se avesse aperto una finestra che per anni era rimasta chiusa, e l’aria entrata fosse limpida e gelida, e le avesse fatto ricordare qualcosa — qualcosa che non sapeva di sapere. E lei resta lì, ferma, con gli occhi spalancati, e sente tutto. Il brusio delle macchine, il battito del proprio cuore, l’eco lontana di qualcosa che le dice che nulla sarà mai più lo stesso.

Perché ora lo capisce: l’incanto e l’illusione non sono la stessa cosa. L’incanto è un brivido che attraversa la pelle quando il mondo, per un attimo, si rivela più grande di quanto credevi, quando qualcosa di invisibile ma reale ti tocca, usa le tue mani per farsi vita e ti porta altrove. L’illusione, invece, è un trucco ben congegnato, una menzogna precisa, calibrata su ciò che gli occhi vogliono vedere. L’incanto esiste nel momento in cui il vento cambia direzione e porta con sé un profumo che non sai da dove venga, nel modo in cui la luce di certe sere cade sulle cose e le trasforma in favole della buonanotte. L’illusione, invece, è fatta di specchi e fumo, di mani che si muovono più velocemente dello sguardo, di una promessa che non si compie mai davvero.

Ed è questo, alla fine, il disincanto: non che il Mago fosse un uomo, ma che fosse stato così abile nel progettare il proprio inganno. Ogni gesto, ogni sussurro, ogni bagliore di falsa onnipotenza era stato studiato con la precisione di un enigma costruito per intrappolare il pensiero. Un inganno perfetto, non perché magico, ma perché progettato per modellare il desiderio, per condurre lo sguardo là dove voleva, per non lasciare via di fuga. Come un algoritmo.