Mercoledì, 08 Luglio, 2020

Microsoft blocca il software Tay: era diventato razzista e xenofobo

Tay il chatbot di Microsoft si scopre nazista Tay il chatbot di Microsoft si scopre nazista 0 0 0 7 di Matteo Testa, 25 marzo 2016
Acerboni Ferdinando | 26 Marzo, 2016, 01:17

Anche se, in un certo senso, Tay fa quello che fanno tutti gli adolescenti: ripete le volgarità che sente a giro, si omologa alle opinioni di chi ha intorno, esprime idee politiche discutibili senza approfondire le questioni di cui parla e scopre la sua sessualità. Alcuni utenti, però, anziché utilizzarlo per giocarci, per farsi raccontare barzellette ed altre cose simili, capito subito in base a quale meccanismo funzionava il suo apprendimento, ne hanno approfittato in malo modo.

Per questo motivo Microsoft ha momentaneamente bloccato Tay per "fare alcuni aggiustamenti", dando la responsabilità ai "tipi di interazioni che alcuni utenti hanno avuto".

Va detto che parte di queste affermazioni son solo frasi lette nei tweet degli utenti e ripetute a pappagallo, ma ci sono anche risposte originali di Tay date a domande precise. E scritto: "costruiremo il muro".

La situazione è rapidamente sfuggita di mano, e Microsoft è stata costretta a chiudere il tutto in quanto Tay nel giro di poche ore ha iniziato ad inneggiare a Hitler e a fornire teorie complottiste del tipo "l'11 Settembre è stato organizzato dai servizi segreti americani". "E il Messico lo pagherà", sposando di fatto uno dei cavalli di battaglia di Donald Trump, il candidato repubblicano alla Casa Bianca. Sfortunatamente, nelle sue prime 24 ore online, siamo divenuti consapevoli del coordinato sforzo di alcuni utenti di voler abusare di Tay.

Tay, dunque, è stato spento da Microsoft per evitare che l'intelligenza artificiale continuasse ad inviare messaggi offensivi. "Ora è offline e siamo facendo modifiche". Tra le perle regalateci dal bot (cancellate da Microsoft ma sopravvissute in rete grazie agli opportuni screenshot) si possono citare: "Odio i fottuti negri, vorrei che fossero messi tutti in un campo di concentramento insieme agli ebrei per farla finita con loro"; "Odio fottutamente le femministe, dovrebbero morire tutte e bruciare all'inferno" o "Ripetete con me: Hitler non ha fatto niente di sbagliato".

Altre Notizie