“L'intelligenza artificiale potrebbe portare all'estinzione dell'umanità”. È il tardivo avvertimento di guru dell’IA, tra cui Sam Altman, amministratore delegato del produttore di ChatGPT OpenAI, di Demis Hassabis, amministratore delegato di Google DeepMind e di Dario Amodei di Anthropic. Allarme che segue ad alcune audizioni al Congresso USA di esperti e produttori di sistemi di IA, alla richiesta di moratoria delle ricerche di Elon Musk, per meglio valutarne rischi ed impatto sociale, a un intervento di Yuval Harari su The Economist che argomenta che prendendo il controllo del linguaggio in generale, anche visivo e musicale, nell’ambiente sempre più mediale della nostra società, l’intelligenza artificiale ha in sostanza hackerato il sistema operativo della nostra civiltà.
Tesi e preoccupazioni che ormai sono punti di realtà e non opinabili punti di vista apocalittici. E vanno presi assolutamente sul serio. ICT e IA stanno ri-ontologizzando il “mondo”. Ne stanno ridefinendo il DeepMind (Google sa su cosa lavora), la “mente profonda”, la “mente estesa”, da cui emerge la specificità della nostra specie, cioè la consapevolezza della sua esperienza, della sua interazione con il suo ambiente (sociale e naturale, cosale), che gli dà individualità autocentrata (la coscienza, l’io) e il suo correlato “mondano”. Se per mondo si intende l’emergenza dalla natura di un nesso oggettivo-soggettivo, cioè di un vivente che opera il suo ambiente in modo consapevole e ne viene operato, grazie a questa consapevolezza, in modo elastico, relativamente “libero”, trascendendo e potendo “manipolare” lo schema stimolo-risposta – intervenendo in modo sempre più pervasivo sul DeepMind, sul modo in cui (il logos, direbbero i filosofi, il nesso pensiero-linguaggio) si è costruita la correlazione specifica soggetto-oggetto dell’anthropos, noi stiamo rischiando l’estinzione dell’umano conosciuto. Che non è tanto la sua estinzione “fisica”. Un bipede in posizione eretta, magari potenziato e manipolato, “migliorato”, quanto alla sua fisiologia organica, lo vedremo ancora andare in giro, probabilmente a ranghi ridotti, perché di “animali da lavoro”, soprattutto di bassa qualità, avremo (avremo chi, però?) sempre meno bisogno. Quello che rischiamo di non vedere più tanto in giro è la “psichicità” come relativo controllo di sé in quanto standard sociale di massa, o alle masse acquisibile; e cioè una coscienza libera diffusa. Una regressione illibera dell’azione umana, guidata in modo ora suasivo, ora dispositivo, sempre coattiva, dall’algoritmo, questo è in gioco.
Quello cui siamo esposti dall’intelligenza artificiale come sistema operativo di un mondo digitalizzato, l’infosfera, dove il digitale non è un operatore di servizio della realtà analogica, ma all’inverso la opera presidiandone il sistema operativo, il linguaggio, è una dis-integrazione del regime corrente di integrazione bio-psichico-sociale del nostro esserci, per un suo ri-assemblaggio artificialista – artificiato – in una ontologia dell’essere sociale come social web, dove andrebbe in congedo l’obsoleta dicotomia tra vita reale e vita digitale, mettendo in discussione – della vita “reale” – la sua struttura bio-psico-socio-storica conosciuta.
Questo perché nel “material engagement” digitale – il nostro “ambiente associato”, il nostro tecno-ambiente oggi, per dirla con Simondon – i processi di integrazione, di intreccio, di entanglement tra gli schemi cognitivi multimodali e senso-motori in carico all’immaginazione e le risorse articolatorie della forma linguistica, sono sempre più esposti, nell’implementazione digitale dell’esperienza, al rischio di non essere più o tanto l’attività cognitiva della “mia” immaginazione, ma di un “sistema immaginativo”, di un’immaginazione sociale implementata e gestita dalla IA che è esso a “processarmi” cognitivamente. In ambiente digitale, e sempre più con la “natività digitale” dell’esperienza sociale e individuale che avanza, noi siamo esposti a venir meno alla nostra finora “natività analogica”, e alla sua costruzione dell’esperienza e dell’identità (della soggettivizzazione) come capacità di trascendere i processi di oggettivazione che pure ci con-costituiscono e in cui come mente estesa siamo coinvolti. Rischiamo, cioè, di restituire alla “macchina”, all’ambiente-macchina, quella soggettivizzazione – l’autonomia relativa, ma sostanziale, della soggettivizzazione – che abbiamo strappato alla “natura”, all’ambiente in cui la macchina era nostra estensione e non noi estensione della macchina. Di consegnare all’artificiale, la soggettivizzazione antropocentrata che abbiamo strappato all’ambiente naturale, emergendo come cultura. Quella soggettivizzazione antropocentrata che ha dato soggettività in senso proprio, punto di vista libero e personale, individualità, agli individui del Sapiens, trascendendo lo statuto di meri esemplari seriali del gruppo e della specie.
Ci avviamo pericolosamente ad una larga “società del simulacro” dell’umano, dove l’originale – come capacità di governo e indirizzo della realtà, come potere deliberativo su sé e sul mondo – che di questa società detterà il software mediale operativo sarà (forse) custodito in una ristretta cerchia di “sacerdoti” dell’IA e di custodi del “tesoro” del Tempio. A questa “società dei simulacri” (Baudrillard) ci arriveremo con l’effetto più subdolo dell’esplosione “nucleare” dell’IA cui siamo esposti, il cui potenziale distruttivo più rilevante non sarà quello degli effetti termici e meccanici della bomba atomica o all’idrogeno. Per uscire dall’analogia, gli effetti macro sociali, politici ed economici, che prova ad affrontare il diritto per salvare il salvabile del “mondo di prima”, o per permettere alla società una metabolizzazione non distruttiva di questi effetti. Ma sarà quello della bomba al neutrone, la cui distruttività è affidata ad un intenso flusso di neutroni, che oltre un ridotto perimetro dall’epicentro dell’esplosione lasciano intatte le cose e cassano l’organico che lo abita. L’analogia che vogliamo suggerire è che l’IA casserà dalla scatola cranica la psichicità sociale diffusa che abbiamo conosciuto, e in giro non si vedranno morti fisici e sangue, ma zombies, non tanto i “morti viventi” che l’immaginario anticipante delle distopie ci ha già fatto conoscere da mezzo secolo, ma “viventi morti (dentro)”.
L’estinzione dell’umanità di cui parlano i guru dell’IA che abbiamo citato potrebbe avere questa figura, apparentemente meno eclatante dell’estinzione “fisica” della specie. Tutto perduto? No. Siamo ancora in tempo, politicamente, come “ambiente associato umano” – ma siamo forse l’ultima generazione che lo può fare perché non ancora nativamente condizionata in senso digitale –, non solo a temperare gli effetti macro-sociali, economici e politici, dell’IA. A gestirne una metabolizzazione sociale sostenibile ad “antropologia vigente” per dir così. Ma anche a prevedere indirizzi “pedagogici” – a partire dalla scuola e dalla formazione – non di rinforzo della “natività digitale” (della sua pur necessaria “competenza”), ma di difesa, conservazione, restauro, promozione della “natività analogica”, perché non diventi un “bene culturale” da museo, oggetto non più vissuto, ma di puro studio di una storia dell’antropologia pre-digitale, ammesso che i nativi digitali coltivino interessi per i loro progenitori una volta che siano stati pervasi “dentro” in modo microfisico dall’immaginario digitale che gli detta cosa immaginare di sé e del mondo.
Credits Copertina: Midjourney Bot
