Tecnologia Persuasiva

In che modo un Social Media può influenzarti, o convincerti di qualcosa che non pensi, o che non esiste.

"I computer possono seguire solo istruzioni obbligatorie - non sono programmati per esercitare discrezione".

È passato molto tempo da quando questa dichiarazione è stata fatta da un tribunale di New York, e questo non è più vero.

Un'intelligenza artificiale è in grado di apprendere da sola e di esercitare discrezione, dando risposte imprevedibili.

Ma un’IA non è solo in grado di apprendere; può anche influenzare l'opinione di massa, o crearla.

Google, Wikipedia, Facebook e gli altri social media, grazie al loro funzionamento e algoritmi, hanno la capacità di configurare dinamicamente il contesto di scelta informativa dell'utente in modi intenzionalmente progettati per influenzare le loro decisioni, utilizzando le cosiddette tecniche Hypernudge (in italiano suona come “super - spintarella”).

In pratica, un Social è in grado di farti vedere non solo quello che vuoi, facendoti credere che tutti la pensino come te, ma anche di sfruttare le tue scelte precedenti (likes, aperture di contenuti etc) per spingere le tue idee in una certa direzione.

Le tecniche di profilazione basate sui dati, se utilizzate su larga scala, rendono possibili pratiche di sorveglianza, personalizzazione e manipolazione pervasive a livello di popolazione in modi che rischiano di minare la dignità umana, l'autonomia e l'autodeterminazione.

Non possiamo più essere considerati il target del marketing; la nostra opinione è il prodotto stesso. L'intelligenza artificiale può essere utilizzata per sfruttare le debolezze insite nella natura umana a una scala, velocità e livello di efficacia mai visti prima. I grandi inserzionisti potrebbero perseguire i loro obiettivi utilizzando queste tecniche di manipolazione per rimodellare il modo in cui le persone vedono il mondo che li circonda e influenzare non solo i loro acquisti, ma le loro decisioni di vita.

Un'intelligenza artificiale può persino minacciare il diritto alla libertà di espressione e informazione e potrebbe minare seriamente le basi degli ordini democratici pervertendo il diritto a libere elezioni. Se pensiamo a Pizzagate o alle recenti rivolte negli Stati Uniti, l'uso dell'IA può diventare uno strumento pesante per la manipolazione politica dell'opinione pubblica e portare a destabilizzazione e rivolte socio-politiche. Questo è il motivo per cui questo tipo di tecnologia non è solo intelligente, ma è persuasiva.

La persuasione può essere definita come "un tentativo di modellare, rafforzare o modificare comportamenti, sentimenti o pensieri su un problema, un oggetto o un'azione". L'arte della persuasione ha le sue radici nella psicologia cognitiva, lo studio scientifico dei processi mentali come "attenzione, uso del linguaggio, memoria, percezione, problem solving, creatività e pensiero". Si è già tentato di identificare un sistema in grado di determinare come le parole possono convincere o persuadere una persona, ma gli scienziati non sono mai stati in grado, fino ad ora, di raccogliere tutti i dati necessari per prevedere un risultato con un alto livello di probabilità.

Una scienza emersa di recente - la captologia - è stata utilizzata come componente per la comprensione della "tecnologia persuasiva". Questa scienza studia l'area in cui si intersecano informatica, sistemi operativi e persuasione e costituisce un acronimo originato dal termine “Computer as Persuasive Technology”. Per definizione, la captologia si concentra sul "potere" persuasivo che i sistemi informatici possono sopportare.

Questo potere deve essere compreso e regolato da un punto di vista della responsabilità e dell'affidabilità. È necessario considerare come funzionano la persuasione e la tecnologia persuasiva e chi deve essere considerato responsabile per loro. Al giorno d'oggi la realtà ha bisogno di un quadro giuridico adeguato alla realtà virtuale, alla sua velocità, e in grado di considerare che ogni persona o azienda che contribuisce allo sviluppo, alla distribuzione e all'operatività di un'IA può essere soggetta a una diversa giurisdizione e un diverso sistema legale.

Speriamo, quindi, che si possa vedere presto una regolamentazione, anche per evitare di lasciare alla discrezionalità di Twitter o Facebook di decidere se un personaggio politico possa o meno, e come, utilizzare il loro prodotto, ma solo dopo averlo usato male, o fin troppo bene, a seconda dei punti di vista.

 Avv. Stefano Faraoni