La crescente attenzione alla tecnologia deepfake AI e le sue implicazioni sociali

L'attenzione crescente verso la tecnologia deepfake AI si è concentrata principalmente su trucchi visivi, come video che sovrappongono il volto di una persona su un altro corpo o generano arte surreale. Tuttavia, un altro metodo per creare imitazioni digitali convincenti, i filtri vocali, sta iniziando a essere preso più seriamente grazie all'AI. Strumenti emergenti come Koe Recast e Voice.ai stanno affinando la loro capacità di trasformare input audio per farli suonare come chiunque, se fornito abbastanza materiale sorgente da analizzare. Nonostante le potenziali implicazioni negative, come l'uso da parte di malintenzionati per attacchi personali e disinformazione, i creatori sostengono che la maggior parte delle persone beneficerà di questa tecnologia. Tuttavia, i critici rimangono scettici. Alcuni rappresentanti dei call center hanno iniziato a utilizzare software AI per cancellare i loro accenti nativi per suonare più "americani", mentre i dipendenti di alcune grandi aziende sono caduti preda di truffatori che utilizzano l'imitazione audio per imitare i capi. Nonostante queste truffe siano ancora agli inizi, è probabile che diventino più comuni e, purtroppo, più difficili da distinguere dalla realtà.