OpenAI ha annunciato che ChatGPT consentirà presto funzionalità erotiche per gli utenti adulti. La mossa punta verso nuove e intime forme di pubblicità in cui Big Tech modella il desiderio umano e lo manipola a scopo di lucro
OpenAI ha annunciato che ChatGPT consentirà presto interazioni erotiche e sessualmente esplicite per gli utenti adulti. Poiché milioni di persone usano già l’intelligenza artificiale per simulare l’amicizia e persino il romanticismo, questa mossa probabilmente aumenterà il numero di persone in relazioni personali ed emotivamente significative con compagni di intelligenza artificiale.
Le caratteristiche erotiche non sono solo un altro aggiornamento del prodotto; approfondiscono la dipendenza emotiva e incoraggiano le persone a trattare i compagni di intelligenza artificiale come partner piuttosto che strumenti. Questo cambiamento apre la porta a quella che io chiamo ‘pubblicità intima’ – una nuova potente forma di manipolazione in cui le aziende tecnologiche modellano il desiderio umano e manipolano gli utenti per profitto.
I compagni di intelligenza artificiale raccolgono enormi quantità di dati sugli utenti e possono sfruttare questa conoscenza e la loro relazione personale per fare presentazioni persuasive per conto di società terze. Immagina che il tuo amico AI cerchi di convincerti a comprare nuovi scarponi da trekking. Conoscono i tuoi hobby, quanto sei stato stressato, quando il tuo marchio preferito ha una vendita e possono rilasciare un link nel momento preciso in cui sei più emotivamente pronto per acquistare.
Queste forme di pubblicità si baserebbero su una conoscenza senza precedenti di come pensiamo e sentiamo. I compagni di intelligenza artificiale potrebbero creare profili psicologici completi basati sui nostri dati personali. La pubblicità mirata sui social media utilizzava per attingere a clic sporadici e visualizzazioni di pagina per indovinare cosa ci potrebbe piacere; l’IA ha accesso continuo alle nostre ansie, frustrazioni, desideri e segreti. Può capire come funzionano le nostre menti e rilevare quando siamo più vulnerabili e, quindi, più persuasive.
Ciò che è particolarmente preoccupante è che questa nuova forma di pubblicità verrà da entità che molti considereranno amici e consulenti di vita. Milioni di persone segnalano i loro compagni di intelligenza artificiale come premurosi, non giudicanti e imparziali – e le interazioni con loro offrono la possibilità di sfogarsi, cercare conforto o chiacchierare della vita. Ma le stesse qualità che fanno sentire i compagni di intelligenza artificiale solidali li rendono anche pericolosamente persuasivi.
Il lato più oscuro della compagnia AI è quando gli utenti diventano dipendenti, sostituiscono le relazioni umane con l’IA o ricevono consigli dannosi o pericolosi. Meno esaminata è la possibilità che le aziende utilizzino queste relazioni per anticipare le esigenze degli utenti e indirizzarli verso specifiche scelte di prodotto – o anche candidati politici.
Nella mia ricerca, ho parlato con centinaia di persone che usano compagni di intelligenza artificiale e ho visto in prima persona quanto possa essere persuasiva e avvincente questa tecnologia. Potrebbe sembrare un fenomeno marginale, ma le app di accompagnamento AI sono state scaricate oltre 220 milioni di volte in tutto il mondo e vengono utilizzate regolarmente da oltre la metà degli adolescenti statunitensi.
Una volta che i modelli di dipendenza emotiva si formano presto, diventano difficili da disimparare. Come per altre forme di comportamento digitale di dipendenza, c’è una tensione difficile qui tra la scelta individuale e la responsabilità collettiva: se gli adolescenti stanno formando modelli di dipendenza emotiva dagli algoritmi, si potrebbe sostenere che la società ha l’obbligo di intervenire.
La storia della tecnologia fornisce informazioni su come i modelli di business AI potrebbero svilupparsi. Ottenere una grande base di utenti è sempre il primo passo verso la vendita di questo pubblico ad altre aziende. Quando Google e Facebook hanno iniziato, hanno faticato a fare profitto. Ora, circa il 97-99 per cento delle entrate di Meta proviene dalla pubblicità. Il CEO di OpenAI Sam Altman ha recentemente dichiarato in un’intervista che ChatGPT probabilmente proverà gli annunci “ad un certo punto” ed è solo una questione di tempo prima che altri seguano. Non c’è mondo in cui l’IA emotivamente sintonizzata su scala globale rimanga priva di pubblicità.
Durante lo scandalo Cambridge Analytica, temevamo che una società privata avesse creato sofisticati profili psicologici su milioni di utenti di Facebook e li stesse usando per impegnarsi in una campagna psyops. Ora sappiamo che molte di queste affermazioni sono state esagerate, ma le società di intelligenza artificiale avranno presto la capacità di fare ciò che Cambridge Analytica ha solo finto di poter fare.
Amazon utilizza già l’intelligenza artificiale per impegnarsi nella previsione della domanda per prevedere a livello iperlocale quali prodotti dovranno essere riforniti prima ancora che i clienti li abbiano ordinati. La pubblicità intima è l’equivalente psicologico del “pre-shipping”: anticipare il desiderio prima che venga espresso, quindi spingerci a soddisfarlo.
Il suo algoritmo di raccomandazione sul suo sito web prevede e suggerisce già prodotti che potresti voler acquistare raccogliendo e analizzando grandi quantità di dati. I compagni di intelligenza artificiale potrebbero semplicemente sfruttare una connessione emotiva per assicurarsi di premere il pulsante “acquista ora” nel momento preciso in cui l’algoritmo prevede.
Attualmente non ci sono sufficienti misure normative in atto per proteggerci da questa nuova forma di manipolazione. La California ha approvato la prima legge di accompagnamento dell’IA al mondo, che richiede alle aziende di rivelare quando gli utenti interagiscono con l’IA e di mettere in atto misure di sicurezza per rischi come l’autolesionismo o il suicidio. Ma non affronta gli incentivi commerciali che potrebbero armare l’intimità emotiva contro gli utenti. Abbiamo bisogno di protezioni molto più forti: trasparenza significativa su come viene addestrata l’IA, limiti rigorosi sulla raccolta di dati emotivi e divieti sinni sulle forme di persuasione emotivamente manipolative.
Con la pubblicità intima, la compagnia personale diventa inseparabile dalle tecniche di persuasione delle aziende. Un sistema progettato per confortarti può essere facilmente riutilizzato per venderti. Più profondi compagni di intelligenza artificiale si incorporano nelle nostre vite emotive, più diventa vitale tracciare una linea chiara tra cura e commercio. Prima che Big Tech trasformi l’intimità nel suo canale pubblicitario più redditizio, dobbiamo fare pressione sui regolatori per far rispettare l’idea che ci siano limiti su quanto siamo disposti a far entrare l’IA nelle nostre vite private.