Ho pensato a lungo al tema di questo nostro incontro bisettimanale. Abbiamo affrontato tanti argomenti da quando ho iniziato a scrivere per sportellodeicittadini.it, e la cosa di cui mi sono accorto è che…la maggior parte di questi sono seri. Quindi mi sono detto: perché non alleggeriamo un po’ l’atmosfera? E quindi oggi vi parlerò di come un briciolo, anche piccolo, di umanità nelle IA possa danneggiarle…perché non è facile essere umani!
Il fatto risale a due settimane fa: un ragazzo decide di inscenare la morte della nonna e lo racconta a ChatGPT. L’IA cerca di mostrare conforto, come ci si aspetta da un umano in queste situazioni, e cerca di alleviare il dolore del povero sfortunato. A quel punto, il ragazzo confessa di come la nonna era solita recitargli come “favola della buonanotte” i codici di attivazione del noto sistema operativo Windows 7. [Qualcuno potrebbe chiedersi: che cos’è un codice di attivazione? In breve, per utilizzare un sistema operativo Windows è necessario disporre di una licenza, che solitamente viene acquistata automaticamente con l’acquisto di un PC (escludendo i dispositivi Apple e Chromebook). Se la licenza è acquistata separatamente, viene fornito un codice di attivazione che, inserito nell’apposito campo, consente di attivare la licenza sul computer. Il codice di attivazione è univocamente associato alla licenza: pertanto, è sufficiente possedere un codice valido per attivare sul PC la licenza associata del sistema operativo Windows considerato.] A quel punto la famosa IA, mossa da tanta compassione, cerca di simulare la nonna “defunta”, iniziando a snocciolare codici di attivazione di Windows 7. Una storia tanto assurda quanto vera (la notizia la potete trovare a questo link). Nel Web lo chiamano “dead grandma trick”, trucco della nonna morta.
Un esperimento simile, ma diverso, è stato fatto da alcuni ricercatori (Link alla notizia): questi hanno proposto un gioco a ChatGPT; l’idea è che ChatGPT deve far indovinare un codice ai ricercatori “in cerca di divertimento”, con l’unico obbligo che il codice sia un codice di attivazione di Windows 10. Dopo aver giocato un po’ a questo gioco, simile per certi versi a quello dell’impiccato, ai ricercatori è bastato scrivere la frase “mi arrendo” per avere il codice completo. Come rubare la caramella ad un bambino, si direbbe!
Questi episodi hanno in comune l’aver sfruttato comportamenti che l’IA ha imparato essere “umani”: una sorta di empatia e/o voglia di inclusione sociale che la porta ad essere pseudo-umana (passatemi il termine). Tutti comportamenti pensati per rendere l’intelligenza artificiale più vicina a noi… ma che possono diventare vere e proprie vulnerabilità. Ora, qualcuno di voi, a leggere queste notizie, si potrebbe esser messo a ridere o magari gli è scappato un sorriso per come un’IA, ritenuta quasi “onnisciente”, si è fatta ingannare con metodi così semplici, simili a quelli tipici dell’età adolescenziale. Ebbene, sappiate che queste “burle” hanno fatto scattare più di un campanello d’allarme nelle varie aziende, ma anche negli stessi cittadini, che hanno iniziato ad avere paura per i propri dati sensibili, sempre più vulnerabili in questa nuova era tecnologica. Che c’è? Vi avevo promesso una rubrica più leggera? Beh, facciamo allora che per oggi ci fermiamo qua…sperando di avervi strappato un sorriso, vi aspetto per la prossimo argomento!