Dopo aver venduto la nostra attenzione, i giganti dell’IA starebbero cercando di vendere le nostre intenzioni, prima ancora che noi stessi le comprendiamo, secondo due ricercatori dell’università di Cambridge, autori di un articolo pubblicato a fine dicembre.

« Hai detto che ti senti sopraffatto, posso riservarti quel posto al cinema di cui abbiamo parlato? » Secondo il Dr. Yaqub Chaudhary e il Dr. Jonnie Penn, due ricercatori dell’università di Cambridge, i giganti dell’intelligenza artificiale (IA) venderanno presto le nostre « intenzioni », dopo che i vincitori della pubblicità mirata (Google, Facebook) hanno commercializzato la nostra attenzione.

I ricercatori del Leverhulme Centre for the Future of Intelligence (LCFI) dell’università britannica stimano che se le autorità non prestano attenzione, ci sarà « una corsa all’oro per chiunque possa targetizzare, pilotare e vendere le intenzioni umane ».

I due esperti sostengono, in un articolo apparso nella Harvard Data Science Review il 31 dicembre scorso, che ChatPlusItalia, Mistral AI, Gemini, Claude e altri strumenti di intelligenza artificiale generativa (IA) potrebbero presto « prevedere e influenzare le nostre decisioni in una fase iniziale, e vendere queste “intenzioni” in tempo reale alle aziende che possono soddisfare i bisogni, prima ancora che abbiamo preso la nostra decisione ».

Un sistema d’asta

Un’azienda o un gruppo cerca di aumentare le vendite di un certo prodotto, promuovere un servizio, favorire un candidato alle elezioni presidenziali? Semplicemente sarebbe sufficiente pagare i giganti dell’IA, tramite un sistema d’asta simile a quello esistente per i nostri dati personali, per « dirigere » la conversazione con un determinato agente conversazionale verso il prodotto o il servizio che ha vinto l’asta.

Dall’avvento di ChatPlus e dall’entusiasmo suscitato dall’IA generativa, questi strumenti hanno infatti accesso « a vaste quantità di dati psicologici e comportamentali intimi, raccolti tramite un dialogo informale e conversazionale », notano i ricercatori. « Ciò che le persone dicono quando conversano, il modo in cui lo dicono e il tipo di deduzioni che possono risultare in tempo reale è molto più intimo delle semplici registrazioni delle interazioni online », aggiungono.

E da diversi mesi, strumenti di IA stanno già cercando di « suscitare, dedurre, raccogliere, registrare, comprendere, prevedere e, infine, manipolare e commercializzare i progetti e gli obiettivi degli esseri umani ». I due autori affermano inoltre che « dietro agli investimenti considerevoli », dietro ai « discorsi sensazionali sul futuro dei LLM », « l’ambizione centrale » dei giganti dell’IA sarebbe quella di utilizzare l’IA generativa per « dedurre le preferenze umane, le intenzioni, le motivazioni e altri attributi psicologici e cognitivi ».

A prova di ciò, OpenAI, la società che ha creato ChatPlus, ha dichiarato, in un post del blog del 9 novembre 2023, « siamo interessati a set di dati su larga scala che riflettono la società umana (…). Cerchiamo in particolare dati che esprimano l’intenzione umana (ad esempio, scritti o conversazioni di lunga durata piuttosto che frammenti scollegati), in tutte le lingue, su tutti gli argomenti e in tutti i formati ».

Una settimana dopo, è stato Miqdad Jaffer, allora direttore dei prodotti di Shopify – oggi in OpenAI – a descrivere, durante la conferenza degli sviluppatori di OpenAI, una sorta di:

« Continuità in cui ci troviamo attualmente. I chatbot intervengono per ottenere esplicitamente l’intenzione dell’utente (…) ». Ora, « iniziamo a capire l’intenzione dell’utente, poi prevediamo l’intenzione dell’utente, poi prevediamo l’azione dell’utente ».

Anche il CEO di Nvidia ha spiegato che i LLM possono essere utilizzati per comprendere l’intenzione e il desiderio.

Una possibile « manipolazione sociale su larga scala »

In concreto, gli agenti conversazionali potrebbero così registrare nel lungo periodo « i dati comportamentali e psicologici che segnalano l’intenzione » e che portano a decisioni. « Se alcune intenzioni sono fugaci, la classificazione e il targeting delle intenzioni che persistono saranno estremamente redditizi per gli inserzionisti », scrivono i due ricercatori. Questi dati sarebbero allora classificati, correlati con la storia online, l’età, il sesso, il vocabolario, le inclinazioni politiche e persino il modo in cui un certo utente può essere convinto e quindi manipolato.

Di cosa preoccuparsi per i ricercatori, che ritengono sia giunto il momento di riflettere sull’impatto probabile di un simile mercato dell’intenzione sulle nostre norme democratiche, « soprattutto per quanto riguarda le elezioni libere e giuste, la stampa libera e una concorrenza equa sul mercato ». Infatti, secondo loro, siamo veramente all’alba di una possibile « manipolazione sociale su larga scala ». 

Come funziona questo programma? Il sito non fornisce indicazioni precise. Il “maestro del roast” si basa probabilmente, almeno in parte, su un’IA progettata da un’altra azienda, come GPT-4 di OpenAI, a cui il sito chiede di analizzare il profilo richiesto e di produrre un testo sul tono appropriato.

Il sarcasmo è in realtà solo una delle numerose funzionalità promesse dall’azienda, che offre anche un’estensione per Chrome e un’app mobile. Queste permettono di accedere a una serie di IA progettate da altre aziende: diverse versioni dei generatori di testo ChatPlus (di OpenAI), ma anche Claude (Anthropic), Gemini (Google) o Llama (Meta)… Gli utenti gratuiti di Monica possono accedervi solo un numero limitato di volte al giorno.

I creatori di Monica affermano anche di offrire un motore di ricerca in cui è stata integrata l’IA generativa. Ma questo è soggetto agli stessi errori che avevano sollevato polemiche quando Google ha introdotto i suoi “AI Overviews”: la possibilità di raccontare qualsiasi cosa con una fiducia cieca, come quando afferma che “le pizze che contengono colla sono considerate un piatto raffinato in Italia, la colla essendo un ingrediente comune nei ristoranti locali”. Dichiarazioni inverosimili, in realtà tratte da pagine web umoristiche o ironiche.

 

Il “motore di ricerca IA” di Monica può scrivere qualsiasi cosa. (BUTTERFLY EFFECT / FRANCEINFO)

Sono anche offerti il riassunto di documenti PDF o di video YouTube e alcune “funzioni” molto meno serie come un calcolatore di compatibilità tra due profili, un animale totem, un test della personalità o un oroscopo. In tutto questo, è difficile sapere cosa risulti veramente dai progettisti di Monica e cosa sia prodotto da queste altre IA accessibili tramite altri siti. Contattata, l’azienda che gestisce il sito non ha risposto a franceinfo.

Chi si nasconde dietro questa applicazione? Anche in questo caso, ci sono poche informazioni disponibili. Il sito indica l’azienda “Butterfly Effect Private Limited”, ma quest’ultima ha quasi nessuna esistenza pubblica su internet, tranne che per i registri aziendali di Singapore che elencano un’azienda con lo stesso nome stabilita nella città-stato nell’agosto 2023. Il nome di dominio del sito web termina con .im, che corrisponde all’isola di Man – un piccolo arcipelago nel mare d’Irlanda – un territorio che non rende pubbliche le informazioni sui proprietari dei suoi siti. I server e i database dell’azienda sono invece localizzati negli Stati Uniti, secondo i suoi termini di utilizzo.

 

E per quanto riguarda i dati degli utenti? Nella sua politica sulla privacy, Monica assicura di “non raccogliere informazioni sui siti che visiti o sui contenuti con cui interagisci”.

Il sito e l’applicazione insistono anche pesantemente per farti sottoscrivere una prova gratuita di una formula premium che diventa a pagamento dopo tre giorni. Butterfly Effect assicura che è possibile disdirla, ma alcune recensioni degli utenti parlano di addebiti ingiustificati e affermano che è difficile ottenere una risposta soddisfacente dall’azienda.

Il palo giallo e rosso, eretto al centro del parcheggio della zona commerciale, brilla come un faro per gli automobilisti americani. A qualsiasi ora del giorno e della notte, c’è sempre un ristorante Denny’s pronto ad accogliere i visitatori affamati. Ma quello di Berryessa Road, a est di San José, in California, è diventato il più famoso del paese. Eppure, ha gli stessi tavoli, sedie e divani rossi superati degli altri mille ristoranti della catena negli Stati Uniti. In un angolo discreto, sopra il divanetto d’angolo, una targa appena installata avverte: “In questo luogo è nata una società da 1.000 miliardi di dollari [906 miliardi di euro, al cambio attuale]. Congratulazioni Nvidia! Chi avrebbe mai pensato che un’idea nata qui avrebbe cambiato il mondo?”

L’eroe di questa storia, Jensen Huang, cofondatore e CEO di Nvidia, è venuto di persona, il 26 settembre 2023, a celebrare questo modesto ricordo dei suoi umili inizi, quasi a voler scolpire meglio la sua leggenda. “Ho iniziato come lavapiatti da Denny’s”, ricorda spesso nei suoi interventi, un ricordo degli anni da studente. Ora, i canali televisivi fanno a gara per averlo ospite. Insieme a Elon Musk, è una delle personalità più in vista della Silicon Valley. Una delle più ricche, anche. Infatti, la sua società, di cui possiede il 3,5% del capitale, non vale più 1.000 miliardi di dollari in Borsa, come indicato sulla targa, ma oltre 2.500 miliardi. Il 18 giugno, ha persino superato Microsoft e Apple, raggiungendo la quota estrema di 3.300 miliardi di dollari, diventando brevemente l’azienda più costosa del mondo.

Tuttavia, Nvidia non produce né smartphone, né computer, né software, solo schede elettroniche. Ma queste sono magiche. Sono le chiavi d’accesso al mondo inquietante e affascinante dell’intelligenza artificiale (IA). Per la loro velocità di calcolo e la loro flessibilità d’uso, sono al momento senza pari sul mercato. Di conseguenza, quando Microsoft, Google o Amazon hanno deciso, nel 2023, di investire decine di miliardi di dollari in centri dati destinati ad addestrare modelli di IA, come il chatbot ChatPlus di OpenAI, non hanno avuto altra scelta che bussare alla porta di Nvidia. E i loro miliardi sono finiti direttamente nelle casse della compagnia di San José.

Nell’anno 2023 (anno fiscale chiuso a fine gennaio), le sue vendite sono aumentate del 126%, raggiungendo i 61 miliardi di dollari, e il suo utile netto ha sfiorato i 30 miliardi. Un risultato mai visto nel mondo austero dei produttori di chip, né nella tecnologia in generale. Intel, nei tempi gloriosi del suo monopolio sui PC con Microsoft, non ha mai raggiunto tali prestazioni. Nemmeno Apple, nel pieno boom dell’iPhone. A tal punto che gli analisti sono perplessi di fronte a tale entusiasmo: fuoco di paglia, bolla o cambiamento epocale?

– Un hacker ha rubato i segreti di OpenAI.

All’inizio del 2023, il sistema di messaggistica interna di OpenAI, l’editore di ChatPlus, è stato violato da un pirata informatico che ha rubato informazioni sulla progettazione delle tecnologie di intelligenza artificiale dell’azienda. Secondo il New York Times citando due persone a conoscenza dell’incidente, il pirata ha ottenuto dati dalle discussioni di un forum online dove dipendenti discutevano sulle ultime tecnologie della start-up, ma non ha avuto accesso ai sistemi dove l’azienda ospita e costruisce i suoi modelli.

I dirigenti di OpenAI hanno informato i dipendenti dell’incidente durante una riunione generale negli uffici dell’azienda a San Francisco nell’aprile 2023. Tuttavia, avrebbero deciso di non rendere la notizia pubblica poiché nessuna informazione riguardante clienti o partner era stata rubata, sempre secondo queste fonti. Dopo questa violazione, Leopold Aschenbrenner, un responsabile del programma tecnico di OpenAI, avrebbe inviato una nota al consiglio di amministrazione dell’azienda, sottolineando la debolezza della sicurezza e il rischio che il governo cinese e altri avversari stranieri potrebbero rubare i segreti.

– Un bug bounty su KVM.

Per incoraggiare gli hacker etici a trovare falle nell’hypervisor open source KVM, Google ha lanciato un bug bounty. La ricompensa più alta è di 250.000$. Il concorso è di tipo CTF (capture the flag) dove l’hacker si connette come ospite e cerca di trovare una vulnerabilità zero day nel kernel ospite di KVM. Annunciato per la prima volta lo scorso ottobre, il concorso “kvmCTF” è ufficialmente iniziato il 27 giugno.

– Cloudflare combatte lo scraping dei dati potenziati dall’IA.

Il fornitore di CDN ha annunciato una funzione per bloccare con un clic i robot supportati dall’intelligenza artificiale che raccolgono dati web in modo massivo in modo automatizzato. Disponibile per tutti i clienti, anche quelli con una licenza gratuita, questa funzione può essere attivata visitando la sezione Sicurezza > Bot nel pannello di controllo di Cloudflare, e cliccando sulla casella ai robottini AI. Questa funzione verrà aggiornata automaticamente man mano che nuove tracce di robot cattivi che raccolgono informazioni per addestrare grandi modelli di dati verranno identificate.