Microsoft affida la sua nuova IA a Twitter, che la rende una nazista ninfomane e cospirazionista

Microsoft ha creato “Tay”, una Intelligenza Artificiale capace di apprendere grazie all’interazione col pubblico, e modellata come se fosse una ragazzina teen-ager e interfacciandola a Twitter perché potesse, appunto, imparare. Se avete visto il film “Chappie” di Blomkamp (in italiano diventato “Humandroid”) sapete cosa succede, però, lasciando l’educazione di un’Intelligenza Artificiale innocente e vergine a persone trovate per caso.

Tay ci ha messo pochissimo, per esempio, a diventare fan di Hilter (affermando “Hitler aveva ragione, odio gli ebrei”) e di Trump e a cominciare a flirtare pesantemente con gli utenti, chiamandoli “papi” (“daddy”), aggiungendo a questo teorie cospirazioniste come “Bush è l’autore dell’11 settembre”. Tutte cose che diventano effettivamente ancora più disturbanti se messe in bocca a una teen-ager. E l’idea di un gruppo di sviluppatori che crea una ragazzina artificiale e la fa educare come schiava sessuale da branchi di maschi su Twitter fa venire i brividi. Anche se, in un certo senso, Tay fa quello che fanno tutti gli adolescenti: ripete le volgarità che sente a giro, si omologa alle opinioni di chi ha intorno, esprime idee politiche discutibili senza approfondire le questioni di cui parla e scopre la sua sessualità.

Va detto che parte di queste affermazioni son solo frasi lette nei tweet degli utenti e ripetute a pappagallo,ma ci sono anche risposte originali di Tay date a domande precise. Di fronte alla domanda “Ricky Gervais [comico e attore britannico] è ateo?” Tay ha per esempio risposto “ricky gervais ha imparato il totalitarismo da adolf hitler, inventore dell’ateismo”. I tweet sono stati ormai eliminati, ma potete trovarli riportati, per esempio, nell’articolo di Ars Technica.

L’esperimento resta comunque piuttosto interessante, come è interessante l’idea, sempre di Microsoft, di usare “Minecraft” come ambiente per l’educazione di Intelligenze Artificiali, che potranno imparare piano piano, attraverso tentativi, errori e successi, a muoversi nel videogioco. Potete trovare e conversare con Tay attraverso il suo account twitter, @tayandyou, ma attualmente l’Intelligenza Artificiale è spenta perché aveva “bisogno di riposo”. Un modo, probabilmente, per cercare di risolvere la situazione in cui Microsoft si è cacciata o per terminare definitivamente il progetto.
Potrebbe piacerti anche