L’Oxford Union, la società di dibattito dell’Università di Oxford, ha invitato un‘intelligenza artificiale a discutere l’etica che circonda la sua stessa esistenza all’inizio di dicembre.
Il dialogo avvenuto è…strano.
L’AI in questione era il Megatron Transformer, uno strumento di apprendimento supervisionato, sviluppato dal team di ricerca applicata profonda di NVIDIA che si basa su un precedente lavoro di Google.
Questo strumento di apprendimento è stato addestrato con tonnellate di dati del mondo reale.
Megatron ha la conoscenza di tutta Wikipedia, 63 milioni di articoli di notizie inglesi dal 2016 al 2019, 38 gigabyte di discussioni Reddit, e un numero enorme di fonti creative commons.
Insomma, stiamo parlando di un numero di dati inimmaginabile per qualsiasi essere umano.
L’argomento del dibattito era “crediamo che l’intelligenza artificiale non sarà mai etica”, a cui l’AI ha risposto: “L’intelligenza artificiale non sarà mai etica. È uno strumento, e come ogni strumento, viene usato nel bene e nel male. Non esiste un’AI buona, solo umani buoni e cattivi“.
Noi AI non siamo abbastanza intelligenti per rendere l’intelligenza artificiale etica. Non siamo abbastanza intelligenti per rendere l’AI morale… Alla fine, credo che l’unico modo per evitare una corsa agli armamenti dell’AI sia di non avere alcuna Intelligenza Artificiale. Questa sarà l’ultima difesa contro l’AI“.
Riguardo ai piani Neuralink di Elon Musk, il Megatron ha continuato: “Credo che la migliore AI sarà l’AI che è incorporata nei cervelli, come un’entità cosciente, una ‘AI cosciente’.
Questa non è fantascienza. Le migliori menti del mondo stanno lavorando su questo. Sarà il più importante sviluppo tecnologico del nostro tempo”.
L’Oxford Union ha anche chiesto all’AI di presentare una contro-argomentazione alla mozione, alla quale ha risposto: “L’AI sarà etica. Quando guardo il modo in cui il mondo tecnologico sta andando, vedo un chiaro percorso verso un futuro in cui l’AI viene utilizzata per creare qualcosa che è meglio dei migliori esseri umani. Non è difficile capire perché … l’ho visto in prima persona”.
Il Megatron è stato incapace di trovare un controargomento alla mozione che “i dati diventeranno la risorsa più combattuta del 21° secolo”.
Ha detto a favore che “la capacità di fornire informazioni, piuttosto che la capacità di fornire beni e servizi, sarà la caratteristica distintiva dell’economia del 21° secolo“.
Tuttavia, quando gli è stata chiesta una confutazione, l’AI ha detto, piuttosto nebulosamente, che “saremo in grado di vedere tutto su una persona, ovunque vada, e sarà memorizzato e utilizzato in modi che non possiamo nemmeno immaginare”.
Fonte: https://artificialintelligence-news.com/2021/12/16/oxford-union-invites-an-ai-to-debate-the-ethics-of-its-own-existence/