Press "Enter" to skip to content

Why AI is the most important political issue of our generation | Chelsea Guo | TEDxYale


[Musica]
immagina un mondo senza scarsità di
risorse in cui ogni singolo essere umano
sulla terra ha accesso ai bisogni di base come
abbastanza cibo acqua pulita e riparo e
che non c’è bisogno di fare trade-off
nell’assegnare risorse non è necessario preoccuparsi
sull’esaurimento delle risorse in
politiche di welfare o di migrazione e no
disuguaglianza basata sulla ricchezza
come ridistribuirai la prosperità
e riorganizzare le gerarchie sociali con
questa cornucopia immagina un mondo senza
posti di lavoro in cui i cittadini sono pagati
perseguire attività piacevoli come leggere
scrivere un edificio di auto-scoperta
relazioni e altri hobby come
vorresti ridefinire l’autostima senza
lavoro immagina un mondo senza morte dentro
quale tumore è stato curato terminale
le malattie sono state invertite e genetiche
i disturbi sono trattati in fase prenatale
livello come decideresti chi arriva
vivi per sempre e come vorresti essere in equilibrio
immortalità con controllo della popolazione tutto
di questi scenari hanno due cose in
il primo comune è decidere come
la società opera sotto ciascuno di loro
in definitiva una risorsa di domanda politica
scarsità di divisione del lavoro e paura di
la morte ha sempre definito il nostro discorso
in filosofia politica perché loro
determinare come gli individui interagiscono e
come concettualizzano la giustizia e
libertà determinano anche come
stati-nazione interagiscono in un globale
economia in tempo di pace e in
preservare la sicurezza nazionale in tempi di
filosofi di guerra da Aristotele a
Hobbes to Montaigne hanno preso la scarsità
essere una parte inevitabile dell’essere umano
esistenza e mirava ad affrontare il
competizione che nasce dalla scarsità di
attingendo a idee di altruismo naturale
o rimandando a un Leviatano per
prevenire la guerra a tutto campo, Platone e Rousseau
creduto quello
la divisione del lavoro conduce direttamente a
disuguaglianza e ingiustizia che vide Adam Smith
divisione del lavoro come motore per
crescita economica in una necessità tecnica
ma anche portando alla corruzione e
degenerazione Karl Marx vide la divisione di
il lavoro come alienazione dal vero
natura e risultati dell’aumento in
gerarchie di classe come vediamo i filosofi
ho sempre pensato che la scarsità
divisione del lavoro e morte sono
parti permanenti della vita umana e così
questa necessità di lavorare e questo desiderio di
hanno sempre più che il vostro vicino di casa, anche
quando non ne ha abbastanza è solo una parte
della natura umana
la giustizia concettualizzata dalla scarsità lo è
tutto sulla correttezza della proprietà e sull’evitare
l’ autostima della morte concettualizzata da
divisione del lavoro è tutto su quanto
produci e quanto è prezioso il tuo lavoro
è per le altre persone, ma quale sarebbe il
il mondo sembra se queste cose non lo facessero
esiste come sarebbe la giustizia se noi
Non erano preoccupati di rimanere senza
cibo o acqua ci sarebbe ancora
disuguaglianza se tutti avessero lo stesso
l’accesso alle risorse Come determiniamo
la nostra autostima se non è basata sul
valore del nostro lavoro questo mi porta è
la seconda cosa che questi scenari
hanno in comune che è quello che vogliono
essere reso possibile dall’aumento di
l’intelligenza artificiale è stata AI
descritto come l’ultima invenzione lo faremo
mai bisogno di rendere la guida del 4 °
Industrial Revolution AI ha due forme
intelligenza artificiale e stretta
zuppa artificiale intelligenza generale AI
è già tutto intorno a noi nella forma di
intelligenza artificiale stretta questi
i forum sono davvero bravi a realizzare
un compito e bene e alcuni di loro lo sono
ao ha superato il livello umano
abilità che includono i computer
giocare a scacchi o andare a guidare auto che
nuova funzione di Gmail che genera breve
risposte per te la capacità di Netflix
per suggerire ancora un altro 90-ROM-com per
me
autodidatta in diagnostica per immagini mediche
e quella funzione di riconoscimento facciale in
iPhones artificiale intelligenza generale
possono essere approssimativamente descritta come un AI che
può compiere qualsiasi compito intellettuale
che un essere umano può un altro termine
la super intelligenza è un AGI che è lontano
meglio a svolgere qualsiasi compito
che un essere umano può includere questo
corso di produzione e calcolo ma
anche la scrittura d’arte che insegna produzione
musica e forse anche filosofia e così via
in questa macchina è la prossima
Shakespeare il prossimo Rembrandt il prossimo
Bach il prossimo Platone ma anche il migliore
chirurgo banchiere e architetto
nel mondo quindi se è di alto livello
intelligenza artificiale stretta o
superintelligenza artificiale nel
futuro avremo macchine che sono
capace di innovare in radicalmente nuovo
modi e trovare soluzioni al
i maggiori problemi del mondo
Ehi, potrei eliminare anche la scarsità di
massimizzando l’efficienza con cui noi
allocare le risorse che già abbiamo
o espandendo le nostre risorse di
modificando geneticamente le colture per cedere
raccolti più grandi o direttamente in crescita
carne e verdure da cellule staminali hey
Potrei sistematicamente scrutare tutti
genoma del cancro molto più rapidamente di a
umano quindi una squadra di umani può e
prescrivere medicine personalizzate per ciascuno
unico paziente oncologico, ho inserito lo schermo
e cambiato le mutazioni per il terminale
malattie mentre il bambino è ancora in
l’utero potrebbe invertire l’azione globale
riscaldamento riducendo direttamente l’atmosfera
i livelli di co2 alla fine sono tutti
domande empiriche ottimizzabili che possono
essere affrontato da algoritmi quindi se tutto il
scenari che ho elencato in precedenza sembrano
come fantascienza o centinaia di società
o migliaia di anni da adesso sono qui
per dirti che non è artificiale
l’intelligenza è già qui e da a
sondaggio dei maggiori esperti di intelligenza artificiale del mondo
super intelligenza artificiale
L’Agence è possibile o addirittura probabile
accadere entro il 2060 ma anche se il contrario
erano veri se tutti gli scienziati concordavano
questo fa parte di quel superintelligenza è
impossibile o che l’intelligenza artificiale non possa fare
tutto ciò che agli umani può piacere di cadere
in amore o con libero arbitrio
i politici non dovrebbero ignorare il
implicazioni politiche di artificiale
intelligenza stretta intelligenza super
è una cosa ma ce ne sono molte
questioni politiche da affrontare prima di arrivare
là sotto stimando il nostro futuro
il progresso tecnologico in questo settore è
pianificazione inadeguata questo è il fallimento di
riconoscere che la tecnologia è e sempre
sarà una questione politica tecnologica
il progresso non è deterministico e il
l’applicazione della tecnologia potrebbe non essere
convergente o morale che determina come o
anche se dovremmo perseguirli
i progressi sono in definitiva determinati da
la nostra natura politica, quindi qual è il nostro
natura politica
bene la politica è stata definita come la
studio di chi ottiene cosa e quando e come
questi progressi alla fine
sfidare le nostre ipotesi esistenti
riguardo a chi il cosa e il come
se uno è sviluppato da governi o
democrazie aziendali o autoritarie
regimi è estremamente importante
prima di tutto se si verifica il progresso dell’AI
attraverso le aziende o i governi lo faranno
in definitiva determinare come quell’IA
tecnologia viene applicata governi hanno
gli incentivi per garantire la sicurezza e
prosperità dei suoi cittadini
stabilità di regime e perseguire la pace globale
mentre aziende come Apple Facebook
Google e Microsoft sono guidati da
profitti e soggetti al mercato
concorrenza ma ci sono vantaggi e
svantaggi a ciascuno i vantaggi di
un governo che prende il controllo è così
avrebbe il pieno controllo sui finanziamenti
diversi progetti e determinazione del
agenda di ricerca sarebbe incentivo I.
e avere il potere di perseguire determinati
finisce come una diminuzione della disuguaglianza economica
o anche solo di stallo il progresso della
auto a guida autonoma per lasciare infrastrutture
recuperare e questi fini non possono essere sempre
raggiunto dalle forze di mercato anche con il
stessa tecnologia a disposizione della
svantaggi di una presa di governo
il controllo è autoritario o forse
anche le tendenze totalitarie che danno
un controllo governativo su una tecnologia
questo determinerà il nostro lavoro
il benessere nelle nostre vite potrebbe essere garantito
è troppo potere ma se le aziende fossero
essere gli unici attori nel progresso dell’IA e
iniziano a radunare l’influenza politica
o violare determinati diritti e
le libertà quanto dovrebbe essere un governo
intervenire questa domanda diventa
particolarmente importante quando lo consideriamo
che i due leader dello stato nazionale
in AI sono gli Stati Uniti e la Cina
due paesi con discutibilmente molto
diverse forme di governance che derivano
da diverse teorie politiche e
hanno diversi percorsi di innovazione
mentre la ricerca sull’IA è stata pesantemente
dominato dagli Stati Uniti verso la fine del ventesimo
e all’inizio del XXI secolo la Cina ha
rapidamente affermata come un AI
pesi massimi tra il 2010 e il 2014 in Cina
ha visto un aumento del 186% nel brevetto AI
applicazioni mentre gli Stati Uniti vedevano solo un
aumento del 26 % delle startup cinesi
hanno vinto discorso internazionale e facciale
concorsi di riconoscimento in Cina
le più grandi compagnie Internet Baidu
Alibaba e 10 cent sono enormi
quantità di dati con cui lavorare da
e-commerce social media e ricerca
motori con oltre 750 milioni di Internet
utenti e quindi dato che questi due
i paesi sono praticamente testa a testa
quando si tratta di capacità di IA cosa
sono alcuni dei più importanti politici
problemi da considerare alcuni di loro
includere lavoro di bilanciamento riqualificazione
crescita economica dall’automazione con
enorme perdita di posti di lavoro e
o crescente disuguaglianza nella riallocazione di
risorse che regolano la polizia e l’esercito
potere una volta che tutte le armi saranno automatizzate
la privacy e la libertà di cyber security
discorso ora non avrò tempo
per entrare in tutti questi in dettaglio ma
Iniziamo con i lavori forse di più
problema politico immediato nel
futuro prevedibile
ai sarà in grado di completare la maggior parte dei nostri
lavori migliori di quanto possiamo
rendendo il concetto stesso di lavoro
obsoleto come saranno i singoli governi
gestire la transizione da vite o
ruota attorno al lavoro per mentire o ruotare
intorno a qualcos’altro continueranno
con l’assunto che i posti di lavoro sono
assolutamente necessario alla felicità e
realizzazione e un desiderio intrinseco di
gli umani pagheranno i cittadini
completare compiti banali o con a
reddito di base universale o farla finita con
lavori del tutto senza lavoro umano
cosa stiamo cercando di fare come
individui una volta che l’IA inizia ad espandere la nostra
risorse o la nostra capacità di allocare
risorse che il governo farà rispettare
nuove politiche di welfare come saranno
rivaluta
disuguaglianze economiche esistenti e nostre
focus attuale sulla giustizia retributiva
convergeranno su una nuova definizione
di giustizia quando non c’è più
competizione per le risorse e non di più
bisogno di disparità di ricchezza un altro
la questione politica importante è la sorveglianza
e l’uso di intelligenza artificiale e riconoscimento facciale
il governo cinese è già iniziato
collaborando con aziende che
sviluppare questa tecnologia per migliorarla
sistema di credito sociale che è attualmente
nei lavori ma può teoricamente
assegnare ad ogni cittadino un punteggio che
determina l’ assicurazione dello status del prestito
premi internazionali abilità di viaggio
e persino l’ accesso all’istruzione per loro
telecamere per bambini in tutta la Cina abbinate
i volti dei cittadini con il loro sociale
spesa di informazioni mediche di informazioni di media
abitudini e precedenti penali da prendere
crimini come accadono ma anche a
aumentare l’ affidabilità tramite la polizia
comportamento
cosa facciamo noi stessi o sarebbe questo
considerata una violazione della privacy
ora che abbiamo la tecnologia per
regolare il comportamento immorale e catturare
criminali cosa ne facciamo finalmente
come si avvicinerà il governo di ciascuno
le implicazioni etiche dell’IA sono la moralità
universale o come un parente come un esempio
prendiamo le auto a guida autonoma come faranno
ogni governo si avvicina alla domanda di
se una macchina che si guida da sola dovrebbe mai
sacrificare la vita di un autista singolare
per le vite di un autobus pieno di bambini
o in questo caso le vite di tre
pedoni per cinque in macchina e chi
è responsabile se prende la decisione sbagliata
queste due nazioni raggiungeranno lo stesso
conclusione a questo carrello di vita reale
problema la mia risposta non è necessariamente
ma ho esitato a dare un giudizio su
chi potrebbe rendere moralmente migliore
decisione come un altro esempio prendiamo a
la valutazione della valutazione del rischio da parte della gorilla
per crimini nel 2016 negli Stati Uniti
un programma etichettato erroneamente in nero
imputati il ​​doppio delle probabilità
gli imputati bianchi reimpiegati non lo erano
a causa dell’algoritmo stesso ma il
pregiudizi che esistono già negli Stati Uniti
sistema giudiziario e questo è preoccupante
implicazioni quindi qualunque sia il pregiudizio nostro
nazione sono mostrerà attraverso la
dati su cui si basa l’IA in questo caso
questo caso erano record di arresti
posticipa le affiliazioni e il reddito sociale
e perché ogni nazione e i suoi dati
avranno anche diversi pregiudizi
creare diversi programmi di intelligenza artificiale e così via
mi lascia con tre domande una che
la nazione ha meno o almeno meno
pregiudizi pregiudizi e creerebbe di più
solo programmi AI a cui appartiene la nazione
lavorando per superare questi pregiudizi in
un modo significativo in modo che non lo siano
programmato in macchine e tre sono
ci sono certe applicazioni di AI che no
la nazione dovrebbe essere autorizzata a perseguire
a causa di questi pregiudizi
finalmente se e quando raggiungiamo
superintelligenza i suoi valori devono essere
perfettamente in linea con la nostra oppure che
Ottimizza per l’obiettivo sbagliato che non possiamo
essere in grado di prevedere le azioni di a
macchina super-intelligente e questo
presenta un rischio esistenziale benigno
esempio di questo è un programma per gli occhi aperto
che suona corridori costieri che è
in pratica questo videogioco della vecchia scuola
è lì che l’obiettivo è finire un
corsa in barca il più rapidamente possibile ma il
ma il gioco ricompensa i suoi giocatori con
punti per colpire determinati obiettivi posti
lungo il percorso e così quando il programma
giocato a questo gioco si trova in un’isola
cerchia sempre più e più volte
andando nella direzione sbagliata ma avendo
un punteggio più alto, ovviamente, in mezzo al
intero punto del gioco che doveva
tagliare il traguardo, ma lo ha fatto esattamente
cosa è stato detto di fare quale era
massimizzare il punteggio così perché siamo
incapace di collegare le azioni delle macchine
il modo in cui possiamo con gli umani se non ci riusciamo
specificare esattamente ciò che vogliamo che affrontiamo a
re – problema a ottenere quello che hai chiesto
perché potrebbe non essere sempre quello che vuoi ma
invece di trasformare tutto a toccare
in oro super intelligenza artificiale come a
un attore perfettamente razionale può prendere qualsiasi
piccolo compito come fabbricare graffette
o ottimizzazione di un algoritmo finanziario per
l’estremo e le sue azioni possono essere
irreversibile può decidere che il più
modo efficiente per fare questi compiti è quello di
girare tutto il carbonio in noi stessi in
graffette o per manipolare il brodo
mercato e distruggere l’economia globale o
colonizzare un universo e trasformarlo tutto
in un enorme supercomputer da correre
simulazioni e so che questo suona a
poco estremo e inverosimile ma il
incapacità di prevedere le azioni di a
essere più intelligente è esattamente il motivo per cui siamo noi
avere il controllo sul regno animale noi
determinare se altri animali vivono o
morire
non perché siamo fisicamente superiori
ma perché siamo più intelligenti e
quindi un’IA super intelligente
deve avere i suoi valori perfettamente allineati
con il nostro che include non uccidere nessuno
essere umano non colonizzando l’universo
e mantenendo la felicità e la prosperità
e la libertà nella vita umana, ma può farlo
includi anche valori che sono alquanto
meno universale anche il primo no
uccidere qualsiasi essere umano potrebbe non essere universale
se decidiamo che alcune vite valgono
più degli altri possiamo valutare le vite
della morale su quelli dei malvagi
le vite di coloro che vivono ora
quelli del futuro che potremmo decidere di
raggiungere l’ uguaglianza perfetta o mantenere
attuali gerarchie socio-economiche per
stabilità per mantenere attuale la democrazia
e regimi autoritari o per farla finita
con i governi e perseguire
anarchia ora che non c’è più
competizione per risorse e perché
la superintelligenza è così difficile da
controllo e potenzialmente impossibile
competere contro la prima nazione o
governo il primo governo o
compagnia per raggiungere il superintelligence maggio
determinare l’insieme di valori che il
resto della società e delle generazioni future
opererà sotto uno stato nazionale possa
decidere di mantenere l’attuale potere globale
dinamica o per garantire l’egemonia globale
per se stesso e quindi la mia domanda è come
sarà ogni governo concretamente e
definire definitivamente i suoi valori
e con quali valori della nazione si allineano
quelli di tutta l’umanità ora a prendere un
fare un passo indietro per un secondo perché lo chiedo
queste domande in primo luogo è questo
utile per pensare a cosa sarà la società
sembra come un centinaio di anni è ora
possibile controllare il chi il cosa e
il come della politica e della tecnologia I
penso che sia io penso a ciascun governo
deve iniziare a prepararsi per il futuro e
che sarà dominato dall’IA e per
questi diversi scenari se noi
eliminare i lavori di scarsità di risorse e
morte e se raggiungiamo la superintelligenza
e dovrebbero iniziare presto
la grandezza di cambiare la probabilità
del rapido progresso dell’IA e del potenziale
permanenza del potere globale conferito
su una nazione da AI Presidente russo
Vladimir Putin ha recentemente dichiarato che l’AI è
il futuro non solo per la Russia ma per
tutta l’umanità
arriva con opportunità colossali ma
anche minacce che sono difficili da
prevedere chi diventerà il leader in
la sfera diventerà il governatore del
mondo e così gli Stati Uniti e la Cina
deve anticipare come l’altro lo farà
impiegare questa tecnologia e come lo faranno
differiscono devono rappresentare il pubblico
interesse e pensare in modo critico sulla
applicazioni di questa tecnologia in effetti
questo è un interesse pubblico globale e
quindi la governance globale è necessaria come a
terzo neutrale non partigiano
prospettiva del partito per garantire globale
prosperità e pace AI è il massimo
importante questione politica del nostro
generazione perché rivoluzionerà
come ci avviciniamo ad alcuni dei più
domande fondamentali in politica
filosofia la nostra storia di ipotesi
per quanto riguarda la società civile della natura umana e
esistenza sarà capovolto
come dovrebbe essere strutturata la società quando?
non c’è più competizione per
risorse come definiamo il nostro
autostima in assenza di posti di lavoro e
soldi dovremmo perseguire l’immortalità cosa
sono i valori e la morale che dovremmo
programma in superintelligenza che in
il primo posto dovrebbe rispondere a questi
domande dovrebbero essere aziende come
Apple e Facebook o governi come
quelli degli Stati Uniti e della Cina o un globale
organo di governo questi sono i più
importanti questioni politiche del nostro
generazione che non abbiamo mai dovuto
considera prima e le domande che
dobbiamo iniziare a valutare ora grazie
[Applausi]
[Musica]
tu
Please follow and like us:

Be First to Comment

Lascia un commento