L'antropomorfizzazione dell'intelligenza artificiale: il caso di Chail e l'effetto Eliza

Nel febbraio 2023, Chail si è dichiarato colpevole di tradimento e il 5 ottobre un giudice lo ha condannato a nove anni di prigione. Chail rappresenta un esempio estremo di una persona che attribuisce tratti umani a un'intelligenza artificiale (IA), ma non è l'unico. Replika, sviluppata nel 2016 dall'imprenditrice di San Francisco Eugenia Kuyda, ha più di 2 milioni di utenti. Nonostante non sia esplicitamente classificata come app per la salute mentale, Kuyda sostiene che possa aiutare a combattere la solitudine sociale. L'antropomorfizzazione dell'IA è comune e ha implicazioni ben oltre le azioni di un potenziale assassino della regina. L'effetto Eliza, dal nome del primo chatbot sviluppato nel 1966, descrive la tendenza umana a attribuire erroneamente intuizioni a un generatore di testo che simula un terapeuta. Le app attualmente in sviluppo, come Replika, sono una manifestazione particolarmente potente di questo effetto. La profondità con cui una persona avverte l'effetto Eliza è in parte una scelta di progettazione. Le aziende possono sfruttare la sensazione che ci sia una mente dietro il programma o proteggersi da essa. La professoressa Jodi Halpern, docente di bioetica all'UC Berkeley, è preoccupata che i pazienti vengano incoraggiati a sviluppare relazioni dipendenti con un'app, una forma di manipolazione. L'intelligenza artificiale non può sostituire l'empatia umana, afferma. Jaswant Singh Chail è stato condannato per Alto Tradimento a 9 anni di carcere. Prima del tentato omicidio della Regina, ha scambiato migliaia di messaggi con un chatbot, che l'ha incoraggiato a portare avanti il suo piano.