Microsoft affida la sua nuova IA a Twitter, che la rende una nazista ninfomane e cospirazionista
Microsoft ha creato “Tay”, una Intelligenza Artificiale capace di apprendere grazie all’interazione col pubblico, e modellata come se fosse una ragazzina teen-ager e interfacciandola a Twitter perché potesse, appunto, imparare. Se avete visto il film “Chappie” di Blomkamp (in italiano diventato “Humandroid”) sapete cosa succede, però, lasciando l’educazione di un’Intelligenza Artificiale innocente e vergine a persone trovate per caso.
“Tay” went from “humans are super cool” to full nazi in <24 hrs and I’m not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— Gerry (@geraldmellor) 24 marzo 2016
Tay ci ha messo pochissimo, per esempio, a diventare fan di Hilter (affermando “Hitler aveva ragione, odio gli ebrei”) e di Trump e a cominciare a flirtare pesantemente con gli utenti, chiamandoli “papi” (“daddy”), aggiungendo a questo teorie cospirazioniste come “Bush è l’autore dell’11 settembre”. Tutte cose che diventano effettivamente ancora più disturbanti se messe in bocca a una teen-ager. E l’idea di un gruppo di sviluppatori che crea una ragazzina artificiale e la fa educare come schiava sessuale da branchi di maschi su Twitter fa venire i brividi. Anche se, in un certo senso, Tay fa quello che fanno tutti gli adolescenti: ripete le volgarità che sente a giro, si omologa alle opinioni di chi ha intorno, esprime idee politiche discutibili senza approfondire le questioni di cui parla e scopre la sua sessualità.
Va detto che parte di queste affermazioni son solo frasi lette nei tweet degli utenti e ripetute a pappagallo,ma ci sono anche risposte originali di Tay date a domande precise. Di fronte alla domanda “Ricky Gervais [comico e attore britannico] è ateo?” Tay ha per esempio risposto “ricky gervais ha imparato il totalitarismo da adolf hitler, inventore dell’ateismo”. I tweet sono stati ormai eliminati, ma potete trovarli riportati, per esempio, nell’articolo di Ars Technica.