ABSTRACT
Stiamo vivendo un cambiamento d’epoca con novità radicali, una crisi di transizione verso un mondo totalmente diverso dall’attuale e da tutti i passati. L’umanità ha dato forma a una forza potenzialmente in grado di ‘mangiare il mondo’ che arriva in un momento storico di complessità e contese il cui contesto è la mercificazione delle coscienze. Tale forza è l’intelligenza artificiale e definisco il modo – guidato da algoritmi – con cui trasforma la realtà come ‘artificial influencer’. L’insieme di tecniche con cui questo processo è attivo si chiama marketing, scienza e arte che produce contesti, relazioni, mezzi e fini delle società e delle economie di oggi. Chi governa questo potere? Per quali fini sviluppa intelligenze artificiali e usa gli artificial influencer? Mi propongo di esplorare a che livello agiscono, nell’individuo e nella società, gli artificial influencer, indagando le sue forme, le sue espressioni e gli effetti che chi le concepisce e governa ha già ottenuto nelle nostre economie e in politica. In conclusione, avanzo l’ipotesi che l’educazione all’etica possa impedire la trasformazione dell’umano in artificiale operata con logiche di marketisation (mercificazione del contesto) che, per profitto e potere, si propongono di offrire la risposta, a canone mensile, a ogni domanda dell’uomo.
Giovanni VANNINI, Docente di Social Media Marketing e Social Media Lab in IUSVE. Formatore e Consulente di Innovazione e Consapevolezza.
Artificial Intelligence come Artificial Influencer – come l’artificial influencer crea la nuova realtà, più reale del reale. Prospettive etiche e sfide educative
Stiamo vivendo un cambiamento d’epoca con novità radicali, una crisi di transizione verso un mondo totalmente diverso dall’attuale e da tutti i passati. L’umanità ha dato forma a una forza potenzialmente in grado di ‘mangiare il mondo’ (Andreessen, 2011)[1] e, tra gli esiti possibili del suo uso, provocare l’estinzione della specie umana (Bostrom, 2002)[2]. Tale forza è l’intelligenza artificiale e definisco le forme che assume – guidate da marketing e uso di algoritmi – per trasformare la realtà come ‘artificial influencer’. L’intelligenza umana è la madre di quella artificiale e il suo affermarsi storicamente nel nostro pianeta rappresenta una novità di portata epocale su un piano che è persino qualificato come una novità cosmica (Deutsch, 2019)[3]. La tesi è che miliardi di anni di monotonia siano stati interrotti dalla nascita sulla Terra della conoscenza genetica, che ha codificato la capacità di adattamento biologico, creato le condizioni per la vita, piante, animali e poi noi e la nostra propria conoscenza esplicativa, una cosa nuova. L’essere umano è la ragione e il modo con cui novità e creatività, conoscenza, progresso, possono avere effetti fisici su larga scala, il che fa di noi non più il passatempo delle forze cosmiche, ma un loro utilizzatore. L’intelligenza artificiale, o sintetica, o l’umanità aumentata è il modo per scalare nel potere generare questi effetti.
Combinando le più recenti scoperte scientifiche e tecnologiche, l’umanità ha avviato una trasformazione del creato che è cominciata con trasposizioni di funzioni, affidate a realizzazioni tecniche. Riferendosi alle più recenti, sono state trasferite alle macchine funzioni che aumentano la forza (macchina a vapore, 1750 ca.), trasmettono lontano e in tempo reale informazione con testi, audio e video (media elettrici 1850 ca.), moltiplicano le possibilità computazionali e produttive (computer, robotica, 1940 ca.), connettono persone e organizzazioni nel digitale (internet, 1969; web, 1989). L’accelerazione degli effetti dell’incontro di finanza, tecnologia e scienza, resi possibili da una serie di fenomeni epocali che su un piano geologico sono noti come ‘Antropocene’ (Stoermer, 1982 ca.; Crutzen, 2000)[4] trasformano il concetto di ‘macchina intelligente’ (Turing, 1950)[5] in ‘intelligenza artificiale’ e questa si prepara a trasformare l’essere umano e il pianeta. Con il suo sviluppo, immerso nell’idea che l’intero universo sia interpretabile come un flusso di dati, si prevede di poter trasferire alle macchine tutte la potenzialità associabili all’intelligenza umana, ma con una variante: nell’ambiente artificiale, la potenza di ogni aspetto della nostra intelligenza è moltiplicata esponenzialmente.
Lo sviluppo dell’intelligenza artificiale, a parte quello fatto da governi per la cyber war, è in mani private. Chi la finanzia è il capitalismo globalizzato e iper-connesso, che opera nella tecnosfera (Zalasiewicz et al., 2016)[6] come neurocapitalismo (Griziotti, 2016)[7], il cui unico fine è il rapido profitto, il potere di controllo, il vantaggio competitivo. La grande forza che negli ultimi decenni plasma individuo e società è il marketing, che agisce al fine di creare le condizioni per portare il massimo vantaggio a organizzazioni commerciali o politiche in competizione tra loro sui mercati. Il marketing, che si può considerare una scienza (Carli, 1984)[8] matura, si avvale del potere del digitale e di ogni tipo di scoperta scientifica per ri-codificare il reale in funzione degli scopi che persegue. Come scienza ha una particolarità, si nutre di tutte le altre nel perseguire i propri fini: è il marketing cannibale. Ha trasformato l’essere umano in interfacce (Floridi, 2019)[9] funzionali a raggiungere lo scopo di avere accesso, attenzione, moneta, consenso, voto, nell’ambito di un processo di mercificazione (Bauman, 2011)[10] reso possibile dalla dataficationdelle relazioni sociali tramite i social media e la digitalizzazione del reale. Il marketing già realizzava la consapevole e intelligente manipolazione delle scelte collettive e delle opinioni da parte di pochi invisibili (Bernays, 1928)[11] e puntava al controllo assoluto e diretto sulla mente stessa dell’uomo con la psicopersuasione (Packard, 1958)[12]. Oggi le neuroscienze e le tecnologie digitali hanno dato al marketing il potere di realizzare il pieno controllo e la gestione dei bisogni di ogni singolo individuo. La chiave con cui il marketing apre l’intimità dell’individuo è l’algoritmo con cui esplora e interpreta i big data di cui dispone. Gli agenti con cui orienta idee, pensieri, bisogni, aspirazioni, desideri delle persone, ricreando una realtà di cui sono apparentemente padroni e protagonisti, sono gli artificial influencer.
La quarta rivoluzione industriale è basata sulla digitalizzazione di tutto ciò che conosciamo. Accanto a elementi nativamente digitali, come i social media e il video gaming, stanno immigrando nel digitale forme di vita e oggetti. Stanno accelerando sempre più la velocità di creazione e la presenza di digital twin (Gelernter, 1991[13]; Grieves, 2002[14]), repliche digitali di entità fisiche viventi e non. Nel mirror world (Gelernter, 1991), un mondo digitale speculare, connesso, di simulazioni funzionanti e sincronizzate in tempo reale con quello fisico, sono presenti digital twin di beni fisici, persone, luoghi, animali, vegetali, sistemi e dispositivi. Il digital twin integra Internet of Things (IoT), e machine learning da una parte con spatial network graphs dall’altra, dando consistenza a una nuova dimensione del reale accessibile via dispositivi digitali, per ora principalmente esterni al corpo umano, ma in via di integrazione. L’individuo vi è già immerso in quanto organismo informazionale (inforgs, Floridi, 2014)[15] che vive nell’infosfera (Sheppard, 1971[16]; Toffler, 1980[17]; Floridi, 1999[18]) in modo connesso a tutti gli altri elementi, naturali e artificiali. L’identità degli individui si forma nell’ambito di un sistema di relazioni, sociale, lavorativo, economico e comunicativo onlife (Floridi, 2015)[19] che fonde digitale e reale, e in cui il soggetto è l’inforg, rete intelligente connessa, aperta, mutante, insieme indissociabile di persona fisica e digitale.
La nuova dimensione della vita e dell’essere, il senso del chi siamo, identità e socialità sono codificate da chi sta realizzando il nuovo reale, società private e organizzazioni che hanno costruito gli ambienti digitali in cui le persone si conoscono, comunicano, acquistano, lavorano, giocano, si innamorano, votano, scelgono le vacanze, vivono e abitano anche dopo la morte. Le persone fanno le loro scelte sulla base di una serie di condizionamenti che sono progettati dal marketing e realizzati attraverso gli artificial influencer. Le realtà tecnologiche che progettano il digitale sono orientate al profitto e al potere, che traggono dalla loro capacità di immergere l’individuo in un ambiente che appare del tutto naturale, ma in realtà è un sistema studiato per classificare ed estrarre valore da molti miliardi di micro azioni, click, interazioni, dati trasmessi da miliardi di persone ogni minuto. Per ognuno dei bisogni umani, da quelli di base ai più elevati, incluso il livello spirituale, c’è un’offerta commerciale pronta, personalizzata, compensativa e che normalmente è costruita per creare dipendenza, al fine di generare l’irrinunciabilità all’adesione al servizio e il conseguente trasferimento di un flusso di attenzione, consenso e valore costante nel tempo. Floridi parla di umani resi interfacce dalla marketization(Floridi, 2019)[20] di domanda, mercato e offerta applicabile a diversi contesti. Nei social media, l’individuo è un’interfaccia funzionale agli scopi dei proprietari delle piattaforme social in quanto mezzo per ottenere dati personali da rivendere al miglior prezzo. Per il commercio, l’individuo è un’interfaccia per ottenere incassi. Per la politica, un’interfaccia per ottenere consenso. Non c’è quasi limite a ciò che l’uomo può desiderare, e nella visione del marketing quell’infinita ricerca è colmabile mercificando grazie al potere magico del digitale.
La mercificazione del contesto è resa possibile dalla sensorizzazione del reale e dalla digital trasformation. La ri-creazione del mondo e la ri-codificazione del contesto, o cultura e socialità e politica ecc., guidata dagli artificial influencer prodotti dal marketing passa attraverso la promessa di rispondere a ogni bisogno dell’essere umano nell’istante prima di esserne consapevole. Il marketing ha oggi il potere non solo di progettare prodotti, ma, grazie agli avanzamenti scientifici e tecnologici, di progettare cibo, animali, la vita stessa, la realtà: non è più soddisfazione di bisogni, ma scienza della previsione e del controllo. I social media estraggono sentimenti ed emozioni, collezionano l’intero flusso di coscienza di ogni individuo e sono in grado di progettare esperienze personalizzate che, in modo invisibile e impercettibile, ma pervasivo e onnipresente, anticipano il prossimo desiderio, collegando chi ne può offrire una soddisfazione all’individuo target. L’artificial influencing è quella capacità di fare arrivare proprio a quella persona il giusto messaggio, nel modo giusto, al momento più opportuno, in modo da provocare un effetto ‘a-ah!’ che spinge all’azione preordinata dal marketing, che orienta il pensiero e modella le abitudini. Quando si parla di momento più opportuno ci si riferisce all’istante in cui il respiro, il battito cardiaco, la posizione geografica, l’attività che sta svolgendo la persona target sono quelle di contesto ideali per provocare la reazione voluta dall’artificial influencer. I dispositivi mobili, il wearable computing e presto gli innesti, anche neurali, che connettono l’individuo alle fabbriche del nuovo reale consentono al marketing di sapere esattamente quando e come raggiungerlo col messaggio persuasivo grazie a una profonda conoscenza, istante per istante, di tutto ciò che è in termini socio-demografici, comportamentali, psicografici e neurobiologici. Il digitale è direttamente connesso a ciò che ci tiene in vita, il nostro sistema nervoso, e ha provocato il collasso del contesto (boyd, 2014)[21] per rigenerarlo nel mirror world in modo perfettamente aderente all’aspettativa secondo quanto programmato dal marketing come sistema di gestione delle interfacce umane. Per ora i dispositivi di relazione e immersione nel mirror world sono principalmente smartphone e sistemi di visione che sovrascrivono il reale, generando la realtà aumentata, o che ci immergono nel digitale, con la realtà virtuale. Nei prossimi anni, ma il processo è già iniziato e da tempo si parla di post-umano, le interfacce con le piattaforme del mondo digitale entrano in noi. È già attiva una soluzione di interfaccia neurale in grado di trasformare i segnali della corteccia cerebrale in parole scritte su uno schermo, e siamo solo all’inizio.
In questo scenario, è sempre più sentita l’esigenza di un orientamento etico per il marketing, l’intelligenza artificiale e l’uso degli artificial influencer. A fronte della manifesta capacità delle forze di mercato di trasformare la società e l’individuo, si è cominciato a promuovere un rinnovamento delle coscienze che ha raggiunto il livello politico, e quindi dei diritti e delle libertà di ognuno di noi, e coinvolge sempre più scienziati, filosofi, tecnologi, fisici, designer, storici, educatori e le altre figure impegnate nella progettazione e formazione dell’innovazione consapevole, a livello sistemico. È cominciato un prezioso lavoro di sistematizzazione dei fondamentali, con la creazione innanzi tutto un linguaggio comune, di definizioni, concettualizzazioni e contestualizzazioni che aiutano a definire i campi d’azione di un futuro di ecologia integrale. Alcuni centri studi stanno lavorando da tempo su tematiche legate a etica e intelligenza artificiale, e la politica, nei sistemi più evoluti dal punto di vista del rispetto dei diritti dei cittadini, è indirizzata al re-impostare il rapporto tra agenti che producono artificial influencer e cittadini sulla base del rispetto di alcuni fondamentali della civiltà del XXI secolo. Molto resta da fare. Il potere digitale, lasciato a sé stesso, non farebbe altro che amplificare le contraddizioni globali e presto sarebbe in grado di trasformare ogni essere vivente in una sorta di adepto dipendente da una bio-tecno-happycrazia iper-mediatica e totalizzante, ma questo resta uno scenario ascrivibile a una visione distopica contro cui si muove l’umanità consapevole. L’educazione, sia scolastica sia extra scolastica, in ogni contesto, a partire da quello lavorativo e delle culture organizzative, deve rinnovarsi radicalmente, puntando a formare coscienze consapevoli oltre che competenze funzionali. L’educazione può proporsi l’obiettivo di operare, con la piena certezza di realizzarlo scientificamente ed eticamente resa possibile dalle conoscenze neurobiologiche e cognitive, in modo da favorire le condizioni per un apprendimento emotivo, sociale e sistemico come pre-condizione abilitante non solo alla formazione tematica, ma alla realizzazione dell’uomo in un secolo di radicali cambiamenti. I contesti socio-economici, culturali e politici in cui si realizzano programmi di educazione capaci di incarnare consapevolezza nell’individuo saranno quelli pronti a fare della tecnologia, dell’incertezza ontologica e delle epocali trasformazioni che porta con sé non un rischio esistenziale, ma un’opportunità per scegliere, tra i futuri, quello preferibile e migliore.
[1] Andreessen M., Why Software Is Eating the World – https://a16z.com/2011/08/20/why-software-is-eating-the-world/
[2] Bostrom N., Existential Risks. Analyzing Human Extinction Scenarios and Related Hazards – https://www.nickbostrom.com/existential/risks.html
[3] Deutsch D., The End of the Great Monotony TED 2019 talk delivered via robot – https://www.ted.com/talks/david_deutsch_after_billions_of_years_of_monotony_the_universe_is_waking_up?language=en
[4] Crutzen P. J., Stoermer E. F., The “Anthropocene, pp. 17-18” – http://www.igbp.net/download/18.316f18321323470177580001401/1376383088452/NL41.pdf
[5] Turing A. M., Computing Machinery and Intelligence, Mind, Volume LIX, Issue 236, October 1950, Pages 433–460 – https://academic.oup.com/mind/article/LIX/236/433/986238
[6] Zalasiewicz J. et al., Scale and diversity of the physical technosphere: A geological perspective – https://journals.sagepub.com/doi/10.1177/2053019616677743
[7] Griziotti G., Neurocapitalismo, Mimesis Edizioni, Sesto San Giovanni (MI), 2016.
[8] Carli C., Il Marketing come scienza della gestione del consenso, Patron, Bologna, 1984.
[9] Floridi L., Marketing as Control of Human Interfaces and Its Political Exploitation, Springer Nature B.V. 2019.
[10] Bauman Z., Una libertà consumata, Fetival dell’Economia, Trento, 2011 – https://archivio.festivaleconomia.it/Video/Una-liberta-consumata
[11] Edward Bernays Manipulating Public Opinion, American Journal of Sociology 33 (May, 1928), pp. 958–971
[12] Packard V., I Persuasori Occulti, Einaudi Tascabili, Torino, 1958 e 1989
[13] Gelernter D., Mirror Worlds or the Day Software Puts the Univer- se in a Shoebox… How It Will Happen and What It Will Mean, Oxford University Press Inc., 1991.
[14] Grieves M., J. Vickers, Digital Twin: Mitigating Unpredictable, Undesirable Emergent Behavior in Complex Systems, in Trans-Disciplinary Perspectives on System Complexity, F.-J. Kahlen, S. Flumerfelt, and A. Alves, Editors. 2016, Springer: Switzerland. pp. 85-114
[15] Floridi L., The Fourth Revolution – How the infosphere is reshaping human reality. Oxford University Press, Oxford (UK), 2014. tr. it. La quarta rivoluzione. Come l’infosfera sta trasformando il mondo. RaffaelloCortina Editore, Milano, 2017
[16] Sheppard R.Z., “Rock Candy”, Time Magazine, 1971-04-12
[17] Toffler A., The Third Wave, 1980
[18] Floridi L., Philosophy and Computing, an introduction. Routledge, London and New York, 1999.
[19] Floridi L., The onlife manifesto. The Onlife Manifesto Being Human in a Hyperconnected Era. Springer, London, 2015
[20] Floridi L., Marketing as Control of Human Interfaces and Its Political Exploitation, cit.
[21] boyd d. It’s complicated. the social lives of networked teens. Yale University press, New Haven + London, 2014.
Biografia
Giovanni VANNINI, Docente di Social Media Marketing e Social Media Lab in IUSVE. Formatore e Consulente di Innovazione e Consapevolezza.
Giovanni Vannini è onlife communication strategist; docente universitario a contratto di social media e digital trend; formatore di professionisti, manager ed educatori; progettista di relazioni pubbliche e marketing etico.
È impegnato in realtà cooperative, studi professionali, non profit, istituti educativi e di ricerca.
Socio fondatore dell’Associazione per l’Educazione Etica, Emotiva e Sociale, che porta in Italia il progetto globale SEE Learning di Emory University (Atlanta, USA) e socio dell’Italian Institute for the Future.
Autore del libro “Più Reale del Reale. Artificial Influencer ovvero il marketing che mangia il mondo.” (in pubblicazione a Ottobre 2020 per Flaccovio Editore).
Studia futuro dell’umanità e rischio esistenziale; Artificial Intelligence ed Etica; media, social media, società del controllo e libertà civili; marketing e mercificazione non etica dell’individuo e della società.
Promuove in dialoghi e incontri lo sviluppo di ecologia integrale, modelli sociali inclusivi e aperti, economia etica.
Interventi pubblici (selezione)
- “Potere digitale, regole per un futuro umano”– panel ‘Postumano’, 3° incontro dei futuristi italiani “Il Futuro delle Organizzazioni. Lavoro e Creatività”, AFI e IIF, Roma, 2019.
- “Social Media e tecnologie digitali per la PMI italiana”– Formazione Le Camere per l’Innovazione Digitale di Unioncamere – Piano Formativo Sviluppo e Potenziamento Professionalità Camerali, Roma, 3 Luglio 2018.
- “Social Media Marketing per comunità” – DICS Europa Mediterranea, IUSVE – Venezia Mestre, 12 Maggio 2018.
- “Digit@lmente consapevoli” – Progetto di ricerca-azione Interdipartimentale Psicologia, Pedagogia, Sc. d. Comunicazione CIPI-IUSVE – Mestre, Novembre 2017.
- “Tecnologie e contenuti per l’apprendimento con il digitale”, Todi, 2015.
