The Artist is (maybe) Present

Su consenso, dimensione capitalista dell'AI, scenari futuri e quel patto tra autore e lettore che forse può essere rivisto, ma mai manipolato.

Ciao,

questa è Bolena, una newsletter poco gentile e senza fretta che parla di corpi.

Oggi parliamo di un filosofo senza corpo, diventato poi corpo digitale collettivo, di un libro che parla di manipolazione manipolando, di un lettore trasformato in ballerino della performance senza consenso. Sembra l’inizio di un romanzo di Dan Brown, invece è solo l’ultima trovata del panorama editoriale italiano: Ipnocrazia, il saggio edito da Tlon che voleva smascherare l’ipnosi collettiva e invece l’ha praticata alla lettera.

Una riflessione collettiva (collettiva nel senso di più persone insieme che parlano , ma mi perdonerete il noventesco approccio - com’è che era - “superficiale e ignorante” se muovi critiche mi sembra di aver ascoltato nei giorni scorsi in risposta a) su finzione, inganno, fiducia, consenso e capitalismo cognitivo. E visto che a me non piace molto fare monologhi, ne parliamo con Valerio Bassan, Philip Di Salvo, Eva Ferri, Silvia Costantino, Ern Malley, Borges, Zuboff e Byung-Chul Han, intelligenza artificiale con la nostalgia del Novecento.

O forse anche questo è un collettivo?

Sempre,

G.

Nel 1944 la rivista Angry Penguins pubblicò in un numero speciale l’opera completa di Ern Malley, The Darkening Ecliptic. La reazione del mondo letterario fu violenta. Abbagliati dalla dissonanza di quella poesia e ammaliati da questa voce nuova emersa dal nuova, si riscrissero le regole del modernismo oscuro. Il direttore dalla rivista, il giovane poeta e critico letterario Max Harris, si convinse di aver trovato un genio. Ern Maley, racconta la sorella Ethel nel memoriale che accompagnava lo scritto, era morto a venticinque anni devastato dalla solitudine, lasciando solo poesie scarabocchiate su fogli sparsi. Un’eredità preziosa che sua sorella non voleva tenere segregata nelle mura domestiche. Nel clima di fervore modernista che era seguito alla pubblicazione della sua opera, iniziarono a circolare domande, poi sospetti e infine discrepanze nei racconti ufficiali che tessevano il mito del poeta. Alcuni addetti ai lavori e intellettuali più attenti notarono che non esistevano tracce di Malley al di fuori dei manoscritti pubblicati. Non c’erano biografie verificate, traccia di una scuola, un percorso accademico, nessun documento ufficiale che ne testimoniasse l’esistenza. Ci fu, dunque, un acuirsi dei sospetti e successivo esame minuzioso di ogni fonte possibile: lettere, registrazioni e ricordi di chi diceva di averlo conosciuto. L’indagine interna condotta da Angry Penguins rivelò una sorprendente verità: i testi, per quanto disturbanti, era stati composti in una sola notte da James McAuley e Harold Stewart, due intellettuali che intendevano mettere in luce la vulnerabilità di un sistema che acclamava la novità senza nessuna domanda critica. Il processo di smascheramento fu segnato da un crescendo di confusione, scandalo e posizioni rigidissime: la caduta dell’illusione fece inasprire tutti gli agenti coinvolti. Ciò che era apparso come una rivelazione, da molti ora veniva indicato come una truffa intellettuale. I due ideatori della manipolazione collettiva confessarono spontaneamente. Spiegarono che si trattava di un esperimento satirico, un attacco deliberato al modernismo poetico, che consideravano vuoto e snobistico. Avevano scritto tutte le poesie in una sera, bevendo e ridendo, scegliendo appositamente frasi tratte da testi tecnici, Shakespeare, pubblicità, esoterismo e rimaneggiandole per veicolare il loro messaggio. Il caso divenne nazionale. Harris fu deriso, Angry Penguins fu compromessa, e persino la polizia intervenne: non per la burla in sé, ma perché in una delle poesie di Malley si parlava di “femminilizzazione dell’anima”, e questo bastò per accusare Harris di oscenità. Ma, in netta contrapposizione con chi denunciava la truffa, altri invece ne rimarcavano la dimensione scientifica esasperata volta a smascherare l’eccesso di fiducia nei canoni modernisti. Molti cominciarono a difendere la qualità poetica dei testi. Ezra Pound, non sapendo nulla del contesto, giudicò alcune poesie "non malvagie". Alcuni critici, pur riconoscendo la burla, ammisero che il testo funzionava, nonostante - o forse proprio grazie a - l’intenzione distruttiva dei suoi creatori. In qualche modo Ern Malley era sopravvissuto ai suoi assassini, tanto da essere a più riprese studiato e ristampato. Ciò che era morto, invece, nella sua opera era il patto di fiducia e consenso col lettore.

ritratto di Ern Malley

Anche Jianwei Xun sembrava l’ennesima apparizione folgorante di un pensatore straniero destinato a scuotere il dibattito pubblico italiano. Accademico cinese trapiantato in Europa, esperto di intelligenza artificiale e potere simbolico, appariva come l’autore perfetto per il nostro tempo: enigmatico, colto, cosmopolita. Il suo libro, Ipnocrazia, uscito nel gennaio 2025 per Tlon, ha rapidamente scalato le classifiche con il piglio di una rivelazione. Un saggio denso che esplora i meccanismi con cui la tecnologia, e in particolare l’IA, condiziona la percezione collettiva, ristruttura il potere e modella la realtà. Ma come per Ern Malley, anche qui qualcosa non ha quadrato per alcuni sparuti iniziali e a distanza di due mesi, arriva la rivelazione: Jianwei Xun non esiste. L’autore è una maschera, una finzione costruita a tavolino da Andrea Colamedici, che ha pianificato e costruito l’intero progetto: biografia, stile, copertina, interviste, bibliografia. Una messinscena totale, sostenuta in parte da un’intelligenza artificiale. La verità dietro il testo è una verità fuori dal testo, che solo dopo la pubblicazione è stata svelata, trasformando il libro in una performance, e il lettore in uno spettatore inconsapevole. Molti hanno reagito con entusiasmo, parlando di una brillante provocazione, un gesto concettuale che ha portato nella realtà ciò che il libro enuncia nella teoria. Altri, più cauti, hanno parlato di inganno, di operazione pubblicitaria mascherata da esperimento filosofico. Ma la questione centrale, secondo me, è un’altra. Non riguarda soltanto l’identità dell’autore, o l’uso dell’IA, ma il modo in cui questa operazione ha manipolato il lettore senza il suo consenso.

Qui interviene Silvia Costantino, Direttrice Editoriale di Effequ, per me magnifica nel sottolineare punti apparentemente marginali, ma giganteschi cavalli di troia per altre stratificazioni su stratificazioni su stratificazioni:

Può una manipolazione essere pedagogica? Si può ingannare qualcuno per mostrargli che viene ingannato? E soprattutto: che tipo di relazione culturale costruiamo, se accettiamo che chi legge venga coinvolto in un esperimento senza esserne informato? Queste domande non sono nuove, ma oggi si pongono con una urgenza diversa, perché nel frattempo l’autore è diventato programmabile. L’IA non è più soltanto uno strumento, ma un co-autore potenziale, capace di simulare esperienza, autorevolezza, profondità. Il caso Ipnocrazia ci obbliga a interrogarci su ciò che resta dell’etica del testo, su come vogliamo abitare lo spazio della narrazione pubblica, e su quale prezzo siamo disposti a pagare per stupire, provocare, educare. Di tutta questa faccenda, sfociata in scambi di opinione che ho trovato poco edificanti, non mi resta un pensiero contro la tecnologia, né contro la finzione, ma la necessità di aprire una finestra sulla cancellazione del consenso come fondamento del patto narrativo. Perché io sono convinta che ogni lettore abbia diritto di sapere chi lo sta guidando, e verso dove.

Hieronymus Bosch (circa 1450 - 1516), Il Giardino delle Delizie, 1500-1505, Olio su legno (quercia), 386 x 220 cm, Museo del Prado, Madrid

Il patto narrativo e la fiducia come dispositivo

Ogni atto narrativo, che sia letterario, saggistico, giornalistico o accademico, si fonda su un patto implicito di fiducia tra chi scrive e chi legge. Questo patto non riguarda solo la veridicità dei contenuti, ma soprattutto la trasparenza dell’intento e della posizione da cui il testo prende voce. Quando leggiamo un saggio, diamo per scontato che l’autore esista, che abbia firmato il testo che leggiamo, che ci stia parlando da una postura dichiarata, per quanto complessa o sfumata. Questo patto non è secondario: è il presupposto epistemico che permette al lettore di orientarsi. È una fiducia basilare, ma necessaria, che permette di distinguere tra finzione e realtà, tra gioco e impegno, tra provocazione e dichiarazione. In altre parole: per poter scegliere come relazionarmi a un testo, devo sapere cosa sto leggendo. Quando Ipnocrazia viene pubblicato come saggio filosofico scritto da un intellettuale reale, la casa editrice, il circuito editoriale, le librerie e la stampa costruiscono intorno a quel testo un’aura di autorevolezza basata non solo sui suoi contenuti, ma sull’identità dell’autore. Jianwei Xun, con il suo profilo accademico incarnato in un corpo biologico, i suoi riferimenti culturali, la sua provenienza internazionale, diventa un dispositivo di credibilità. Il lettore non legge solo cosa viene detto, ma chi lo dice — e questo influisce sulla ricezione. Non è necessariamente una cosa positiva, ma è una cosa vera e come tale dobbiamo prenderla come assunto per questa riflessione. Quando poi si scopre che tutto è stato inventato, il lettore si ritrova improvvisamente spiazzato: non era parte di una finzione consapevole, ma partecipante attivo a sua insaputa di un esperimento nascosto. La fiducia è stata utilizzata non per costruire un rapporto di senso, ma per creare un effetto. E a quel punto il patto viene meno. Qui non siamo nell’ambito della narrativa sperimentale o della performance artistica dichiarata. Non è L’autore è morto di Barthes, né La letteratura come menzogna di Sciascia. È qualcosa di più sottile perché agisce fuori dal testo, ma ne condiziona in modo profondo la percezione. Per me è questo il punto più interessante della conversazione che si è creata intorno a questo testo: la struttura di potere nascosta nel meccanismo editoriale. Il lettore non è stato considerato come interlocutore critico, ma come oggetto di una dimostrazione. Come se lo si fosse ipnotizzato, per dimostrargli che l’ipnosi esiste. Ma se la fiducia viene violata nel momento stesso in cui si tenta di educare, che tipo di sapere viene trasmesso? E soprattutto: quale tipo di relazione culturale stiamo costruendo?

Arnold Böcklin (1827 - 1901), L'Isola dei Morti, Prima versione, Maggio 1880, Olio su tela, 110.9 x 156.4 cm, Kunstmuseum Basel

Ho chiesto a Eva Ferri, Editrice di Edizioni E/O, forse la casa dei libri più skillata sulle identità degli autori lavora, (do you know Elena Ferrante?), un commento prima di iniziare la conversazione plurale che vorrei fare:

Manipolazione e consenso

Manipolare, etimologicamente, significa “prendere con le mani”. È un gesto che implica contatto, controllo, trasformazione. Ma quando la manipolazione avviene sul piano simbolico, quindi sulle parole, sulle credenze, sulla percezione del reale, assume una forma più insidiosa: diventa un’azione che modifica l’altro senza che l’altro lo sappia. Nel caso di Ipnocrazia non ci troviamo di fronte a un’opera che rivendica la propria finzione, ma a una pianificazione che si regge sulla non-consapevolezza del lettore. È questa asimmetria informativa, e dunque politica, a rendere l’operazione controversa sul piano etico. Il lettore è stato reso oggetto di una manipolazione epistemica, secondo la definizione della filosofa Miranda Fricker: uno svantaggio cognitivo subito da chi è privato degli strumenti per comprendere il contesto in cui sta agendo. Sul piano culturale, il consenso è ciò che distingue l’educazione dall’indottrinamento, l’arte dalla propaganda, la provocazione dall’inganno. Quando leggiamo un romanzo, accettiamo volontariamente di sospendere l’incredulità; quando assistiamo a una performance, decidiamo di partecipare a un gioco di ruoli. Ma quando leggiamo un saggio presentato come “vero”, e scopriamo solo in un secondo momento che era un’illusione, il nostro consenso è stato retroattivamente silenziato. Non abbiamo acconsentito a essere manipolati e proprio per questo la manipolazione ha avuto successo. Come ha mostrato con forza Shoshana Zuboff, nel capitalismo della sorveglianza il valore non è più nella produzione, ma nell’estrazione del comportamento futuro attraverso la raccolta e l’elaborazione di dati personali. Le piattaforme digitali operano sulla base di un principio: più sai di qualcuno, più puoi orientarne le scelte senza che se ne accorga. Il punto cruciale — scrive Zuboff — è che “la sorveglianza non si limita a sapere cosa facciamo, ma vuole sapere cosa faremo”. E per farlo, deve modellare il nostro spazio di possibilità senza dichiararlo. In questo senso, Ipnocrazia agisce come una simulazione culturale della logica estrattiva: non raccoglie dati, ma cattura attenzione e fiducia in modo asimmetrico. E così come l’utente non acconsente realmente alla sorveglianza digitale, il lettore non acconsente consapevolmente alla manipolazione narrativa. Entrambi vengono coinvolti in un sistema opaco, dove ciò che conta non è più la verità, ma la predittività del comportamento. Leggerai, parlerai, condividerai — e solo dopo scoprirai che ciò che credevi autentico era un esperimento.

Chiharu Schiota, in silence | 2002/2019 | burnt piano, burnt chair, alcantara black thread | photo by sunhi mang

Chi difende l’operazione Ipnocrazia sostiene che l’inganno fosse necessario per dimostrare quanto siamo tutti manipolabili. Ma questa giustificazione richiama una vecchia trappola etica: quella per cui il fine giustifica il mezzo. È lo stesso argomento usato in molti contesti di dominio: “l’ho fatto per il tuo bene”, “dovevi aprire gli occhi”, “era l’unico modo per farti capire”. È una logica che sottrae al soggetto il diritto di decidere come e quando acquisire consapevolezza, per di più su un argomento che implica una serie di scelte politiche che devono essere consenzienti e non indotte. Se davvero lo scopo era pedagogico, allora il metodo contraddice il messaggio. Non si può denunciare la manipolazione mettendola in atto; non si può invocare la libertà esercitando il controllo. Altrimenti si finisce per riprodurre, dentro la cultura, gli stessi dispositivi di potere che si pretende di criticare. E c’è un altro rischio, più profondo. Quando un lettore scopre di essere stato manipolato, non solo può sentirsi tradito: può iniziare a dubitare di tutto. E in un’epoca già segnata da disinformazione, deepfake, avatar e identità artificiali, l’effetto di questa operazione potrebbe essere un incremento della sfiducia generalizzata, anziché un aumento della consapevolezza. L’intento era critico; l’effetto potrebbe essere cinico. Perché se tutto può essere costruito, allora nulla merita fiducia. E a quel punto, il patto culturale si sgretola.

Interviene anche Valerio Bassan, giornalista, autore della newsletter Ellissi e del saggio - fenomenale - “Riavviare il sistema” edito da Chiarelettere, che apre un’altra finestra importante sul tema:

Il ruolo dell’autore nell’epoca dell’IA

L’autore, da almeno un secolo, è una figura in crisi. Roland Barthes ne ha dichiarato la morte nel 1967, sostenendo che ciò che conta non è più chi scrive, ma come il testo viene letto. Michel Foucault, poco dopo, ha definito l’autore come una “funzione discorsiva”, una categoria variabile che organizza il sapere, ma che non esiste di per sé. L’idea moderna di autore — soggetto individuale, cosciente, responsabile — è un costrutto storico, non un’essenza. Ma oggi, con l’avvento dell’intelligenza artificiale generativa, la crisi dell’autore ha raggiunto un nuovo stadio. Per la prima volta, esiste la possibilità tecnica di produrre testi coerenti, informati, persino suggestivi, senza che vi sia dietro un essere umano identificabile. L’autore non è più solo morto: è replicabile. Programmabile. Progettabile. In questo contesto, Ipnocrazia rappresenta un caso-limite ma emblematico. Jianwei Xun non è solo un nome inventato: è un avatar epistemico, un costrutto identitario generato per ottenere un determinato effetto di verità. Il suo stile, la sua postura intellettuale, la sua autorevolezza apparente sono stati assemblati per performare l’autorevolezza, non per incarnarla. Ma se l’autore è una simulazione, chi è responsabile del testo? Chi risponde delle sue implicazioni culturali, dei suoi messaggi politici, del suo uso della manipolazione? Non sapere chi parla non è solo una provocazione semiotica: è una sospensione della responsabilità.

Senza voler difendere l’idea romantica di genio individuale, in cui non credo, qui il problema è un altro: la trasparenza del processo. Un testo può essere scritto da un’IA, in collaborazione con un’Ai, insieme a un’AI, attraverso il lavoro di prompting di un collettivo umanoide, ma questo va dichiarato. Un autore può essere fittizio, ma questo va condiviso. Altrimenti, siamo nel territorio dell’opacità strategica, dove la verità è solo un effetto scenico e il lettore diventa spettatore passivo di un gioco di specchi. Non c’è nulla di male nella finzione. Le società umane si fondano su narrazioni, miti, immagini costruite. Ogni opera artistica è, in una certa misura, un atto di finzione. Ma la finzione, per essere eticamente accettabile, ha bisogno di una cornice condivisa: un contesto che ne dichiari l’intento, una soglia che consenta a chi partecipa di sapere a cosa sta prendendo parte. Nel caso di Ipnocrazia, la finzione non riguarda il contenuto del testo, che può anche essere legittimo, documentato, provocatorio, ma la sua condizione di possibilità. Ciò che è stato nascosto non è un dettaglio narrativo, ma la natura stessa dell’autore, la genesi del testo, il dispositivo editoriale che lo ha sostenuto. E proprio qui risiede il problema etico: la finzione è stata usata per ottenere trasparenza apparente, per far credere che una voce inesistente fosse autentica, per costruire un’autorità che non aveva radici reali.

Anish Kapoor, Untrue Unreal, 2023, Palazzo Strozzi (FI)

Nel suo La società della trasparenza, Byung-Chul Han osserva che viviamo in un’epoca ossessionata dalla visibilità, ma che spesso confonde la trasparenza con il controllo. La vera trasparenza non è l’esibizione continua, ma la possibilità per l’altro di sapere da dove viene ciò che vede, legge, ascolta. In questo senso, la trasparenza non è solo un valore morale, ma una condizione di libertà: sapere chi parla è ciò che ci permette di decidere come ascoltare. Ma cosa succede quando anche gli autori “veri” sembrano costruiti con lo stampo? Quando lo stile, il tono, la voce diventano perfettamente replicabili? È qui che il caso Ipnocrazia interseca un cortocircuito più profondo: la crescente indistinzione tra autore reale e autore generato. Prendiamo proprio Byung-Chul Han. Filosofo coreano naturalizzato tedesco, autore di libri come La società della trasparenza, La società della stanchezza, Psicopolitica, è uno degli autori più citati nei dibattiti critici contemporanei. Ma la sua scrittura — aforistica, compatta, ricorsiva, priva di esempi — assomiglia sempre di più a una forma di intelligenza artificiale ante litteram. Un algoritmo del pensiero critico. Ogni suo libro sembra scritto sulla base del precedente, in un loop teorico che sostituisce l’argomentazione con l’atmosfera. Si ha la sensazione di leggere un pensiero perfettamente formattato, senza attrito, progettato per essere condiviso più che discusso. In questo senso, Han non è un autore fasullo — forse, per me sì - ma è forse l’esempio più riuscito di autore funzionale all’economia dell’attenzione culturale. Un brand epistemico. Questa somiglianza tra l’autore costruito con IA e l’autore reso replicabile dal mercato solleva una domanda scomoda: quanta parte della nostra fiducia culturale si fonda già su simulacri? E quanto siamo in grado, davvero, di distinguere tra una voce umana e una voce imitata, quando entrambe si esprimono dentro formati già sterilizzati?

Qui trovo prezioso il commento di Philip Di Salvo, Senior Researcher e Lecturer all’Università di San Gallo - Svizzera su giornalismo investigativo, sorveglianza di Internet e rapporti tra informazione, hacking e tecnologie black box:

In questo scenario, la trasparenza non è più solo una questione tecnica. È una scelta politica: resistere alla standardizzazione delle voci, difendere l’irregolarità dell’autore umano, accettare l’opacità dell’origine quando è dichiarata, ma non quando viene nascosta. Quando questo diritto viene sottratto, il rapporto culturale si trasforma. E anche se, dopo la rivelazione, possiamo rileggere tutto sotto una nuova luce, resta il fatto che quella luce non era disponibile al momento della scelta. Il nostro sguardo è stato guidato, non accompagnato. Questa dinamica — l’illusione di una scelta libera in un contesto costruito per orientare senza esplicitare — è ciò che Shoshana Zuboff ha definito come tratto distintivo del capitalismo della sorveglianza: i grandi attori tecnologici trasformano l’esperienza individuale in materia prima per l’estrazione predittiva, modellando il comportamento umano a partire dalla sua non-consapevolezza. La posta in gioco non è più il controllo diretto, ma l’invisibilità dell’influenza. L’operazione Ipnocrazia ricalca questa struttura in forma culturale: estrae attenzione e reazione manipolando il contesto epistemico in cui il lettore prende le sue decisioni. Non informa, ma modella. Non invita, ma spinge. Non accompagna, ma guida. Il lettore, come l’utente delle piattaforme digitali, non partecipa liberamente: è incorporato in una coreografia già scritta, i cui scopi gli vengono rivelati solo ex post, quando ormai ha già giocato la sua parte.

Ipnocrazia si è presentato come un libro sulla manipolazione, e lo è stato fino in fondo. Ma non nel senso in cui forse avrebbe voluto: non una critica alla manipolazione, bensì una sua messa in scena. Non una diagnosi, ma un contagio. Ha mostrato che si può creare autorevolezza dal nulla. Che si può vendere un’idea senza identità. Che il lettore può essere coinvolto in un esperimento culturale senza essere avvisato. E che, a posteriori, tutto può essere giustificato in nome della provocazione, della scienza, del dibattito, trasformando l’iniziale esperimento in un collettivo che somiglia più alla macchina del Mago di Oz che a un discorso comunitario. Ma questa è esattamente la logica che Ipnocrazia dichiarava di voler smascherare: la logica del potere opaco, dell’influenza senza consenso, della seduzione che non si dichiara. Ed è per questo che il libro, pur nella sua eleganza concettuale, fallisce sul piano politico. Perché riproduce il meccanismo che finge di criticare. Per questo motivo Ipnocrazia non è un’opera da censurare, ma da leggere contro sé stessa. Da restituire al lettore per ciò che è: non una rivelazione, ma una simulazione; non una critica, ma una dimostrazione; non una liberazione, ma un monito. Il punto non è vietare l’uso dell’intelligenza artificiale. Né difendere un’idea romantica dell’autore come genio ispirato. Il punto è un altro: difendere il diritto a un consenso informato, anche nel campo della cultura. Sapere chi parla, sapere come un testo è stato costruito, sapere se dietro una voce c’è un corpo, un’esperienza, una vita, magari una scelta politica perché le esperienze del corpo fungono da bussola per l’individuazione di bias, per esempio. Ma soprattutto, perché leggere non è mai un atto passivo. È una forma di fiducia. Serve una nuova etica dell’autorialità: non per proteggere il passato, ma per abitare con lucidità il presente. Un’etica che non si limiti a denunciare la manipolazione, ma che rinunci ad usarla come strumento. Un’etica che non consideri il lettore un bersaglio, ma un alleato. Un soggetto. Una coscienza in dialogo.

Bibliografia / Riferimenti teorici

• Barthes, Roland – La morte dell’autore (1967)

• Foucault, Michel – Qu’est-ce qu’un auteur? (1969)

• Fricker, Miranda – Epistemic Injustice: Power and the Ethics of Knowing (2007)

• Han, Byung-Chul – La società della trasparenza (2012)

• Haraway, Donna – Situated Knowledges (1988)

• Searle, John – Intentionality (1983)

• Zuboff, Shoshana – The Age of Surveillance Capitalism (2019)