Un pioniere dell’intelligenza artificiale avverte l’umanità della minaccia esistenziale della tecnologia

mondo informatico Google Jeffrey Hintonche ha dato grandi contributi allo sviluppo dell’intelligenza artificiale, ha lasciato il gigante della tecnologia per avvertire il mondo di “rischio esistenziale“I sistemi di intelligenza artificiale significano esseri umani.

ha scritto lo scienziato britannico-canadese di 75 anni Cinguettio che si è dimessoPoter parlare dei pericoli dell’intelligenza artificiale senza pensare a come influenzerà Google“.

In un’intervista con BBCHa detto che non credeva a quei sistemi Amnesty International Sono ancora intelligenti come gli umani. “Ma penso che potrebbero essere presto“, reclamato. Hinton Menzionato questo pericolo per spiegare le sue dimissioni da Google Lunedì dopo 10 anni al colosso tecnologico. Ha detto che voleva poter parlare liberamente dei rischi che poneva Amnesty International – ma ha sottolineato la sua convinzione che la società “Agisci in modo molto responsabile. “

“Sono giunto alla conclusione che il tipo di intelligenza che sviluppiamo è molto diverso dall’intelligenza che abbiamoHa detto alla rete britannica.

“La grande differenza è che con i sistemi digitali hai molte copie dello stesso set di pesi, stesso modello del mondo.“, Egli ha detto Hinton. “Potrebbe imparare tutte queste copie separatamente, ma condividere subito le sue conoscenze. È come se ci fossero 10.000 persone e ogni volta che uno impara qualcosa, tutti lo sanno automaticamente. Ed è così che questi chatbot possono conoscere più di una sola persona“.

In particolare, attenzione Possibilità di manipolazione della tecnologia AI da parte di malintenzionati – come leader autoritari – per usarli per scopi dannosi. Se il sistema raggiunge la capacità di creare il proprio sistema”obiettivi sussidiariAd esempio, può decidere da solo di iniziare a cercare il potere: questo sarà il risultatoscenario da incubo“, reclamato.

Ha anche detto di provvedere Amnesty International nel testo può portare a “Gli spambot sono molto efficaciche può consentireI leader autoritari manipolano le loro basi elettorali. “

Dopo essere entrato nel mondo dei computer Google Nel 2013 ha progettato algoritmi di apprendimento automatico e alla fine è stato promosso vicepresidente. secondo il tuo profilo GoogleE Hinton partecipare a “Le scoperte nel deep learning rivoluzionano il riconoscimento vocale e la classificazione degli oggetti. “

In un’altra intervista, Hinton ha detto al giornale New York Times La possibilità che l’intelligenza artificiale superi l’intelligenza umana sta diventando una realtà più velocemente del previsto. “Ho pensato che fosse da qualche parte tra i 30 ei 50 anni di distanza, o anche di più. Ovviamente non la penso più cosìHa affermato, invitando i principali scienziati a contribuire a monitorare la tecnologia per mitigare i potenziali rischi, ma ha anche riconosciuto che, a differenza delle armi nucleari, non esistono standard internazionali che impediscano o penalizzino l’uso segreto dell’intelligenza artificiale da parte di governi o aziende.

Un’altra preoccupazione immediata è il rischio che foto, video e testi falsi facciano la maggior parte delle personeNon so più cosa sia giustoUn esempio è emerso a marzo, quando una foto di Papa Francesco in camice bianco è diventata virale, ma si è rivelata un falso.Mi consolo con la solita scusa: se non l’avessi fatto io, l’avrebbe fatto qualcun altro.ha detto a volteriferendosi al suo ruolo principale nello sviluppo della tecnologia dell’intelligenza artificiale.

“Rimaniamo impegnati in un approccio responsabile all’intelligenza artificialedisse il capo scienziato GoogleE Jeff Deanin una dichiarazione pubblicata su vari media, in risposta alle dimissioni e ai commenti Hinton. “Impariamo costantemente a comprendere i rischi emergenti mentre innoviamo con coraggio“.

Google Non ha risposto immediatamente a una richiesta Washington Post per fare commenti.

All’inizio di quest’anno, la posta Ho accennato a quel lancio chiacchierata A IA aperta Stava costringendo i giganti della tecnologia come Obiettivo E Google Muoviti più velocemente per lanciare i propri prodotti AI. Da allora, altri hanno parlato dei potenziali pericoli di questa tecnologia.

A marzo, quasi 1.000 imprenditori, accademici e professionisti della tecnologia hanno firmato una lettera aperta che invitava aziende come IA apertaE Google E Microsoft “Interrompere” il lavoro sui sistemi di intelligenza artificiale fino a quando i loro rischi non saranno identificati. Tuttavia, nessun dirigente senior di OpenAI o aziende come Google ha aderito al messaggio.

HintonIllustre Professore Emerito Università di TorontoHa conseguito il dottorato di ricerca in intelligenza artificiale affiliato Università di Edimburgo nel 1978 e ha iniziato a lavorare part-time presso Google nel 2013. Nel 2018, Hinton È stato uno dei tre scienziati informatici a ricevere il prestigioso Premio Turing, spesso definito il Premio Nobel per la tecnologia, per il suo lavoro sull’intelligenza artificiale.

(c) Centro di Washington –