Microsoft apporta importanti modifiche all’intelligenza artificiale dopo la controversia sul deepfake di Taylor Swift

Microsoft ha colmato una lacuna nella sua app di generazione di immagini Designer AI che, secondo quanto riferito, è stata utilizzata per creare immagini deepfake di Taylor Swift.

Ogni volta che i fan della musica pop parlano di artisti famosi nel settore, non c’è dubbio che venga menzionato il nome di Taylor Swift. Si è fatta un bel nome con la sua musica, spettacoli dal vivo, merchandising e altro ancora.

Il 25 gennaio 2024, secondo quanto riferito, un cattivo attore ha utilizzato l’app Designer AI Generator di Microsoft per creare immagini deepfake realistiche del cantante che sono state prontamente diffuse sui social media.

Ora, 404Media ha riferito che Microsoft ha risolto una lacuna nell’app che consente agli utenti di creare immagini deepfake di celebrità.

Microsoft risolve l’app AI che ha creato i deepfake di Taylor Swift

La pubblicazione in precedenza riportava che le immagini deepfake di Taylor Swift provenivano da varie comunità online che utilizzavano più strumenti tra cui Designer AI di Microsoft.

Il 29 gennaio 2024, 404Media ha rivelato che Microsoft ha introdotto maggiori protezioni a Designer, chiudendo una scappatoia utilizzata dai malintenzionati nel processo. Prima, erano in grado di utilizzare nomi con errori di ortografia e descrizioni non sessuali per creare l’immagine deepfake.

Ora, quella scappatoia è stata rimossa, rendendo così impossibile generare immagini deepfake.

Tuttavia, il sito afferma che la comunità che crea queste immagini deepfake lo sta ancora facendo, ma attraverso altri strumenti senza nome.

Questo aggiornamento di Designer arriva pochi giorni dopo che il CEO di Microsoft Satya Nadella ha risposto alla controversia.

“Si tratta di una convergenza globale e sociale su determinate norme, e possiamo farcela, soprattutto quando ci sono leggi, forze dell’ordine e piattaforme tecnologiche che possono unirsi: penso che possiamo governare molto più di quanto pensiamo”, ha affermato. disse.

Questa non è nemmeno la prima volta che Microsoft Designer diventa virale per la generazione di immagini nel 2024. All’inizio di gennaio, i social media hanno esploso gli utenti che creavano i propri Funko Pop personalizzati.