tu
Buongiorno, mi chiamo Josh Packer
un anziano qui all’Università di
Rochester studia informatica e
filosofia che il mio progetto per l’ ultimo anno ha
stato sul tema della decisione etica
fabbricazione e veicoli autonomi e
specificamente questa idea di come potremmo
andare su mitigare pregiudizi quando
programmando veicoli autonomi così da te
i ragazzi hanno probabilmente sentito parlare di auto-guida
le auto a volte sembrano così e
più di quanto tu sappia guidare da solo
la tecnologia nelle auto che comprate
oggi e questa tendenza continuerà solo
mentre andiamo avanti, la tecnologia è
sorprendente e che consente nuove
efficienze e ottimizzazioni ma noi
Devo anche fare un sacco di lavoro da fare
sicuro che questa tecnologia sia sicura così
che le persone vogliono usarlo e sentire
comodo avere questo come un quotidiano
esperienza quindi cosa intendo quando parlo
su sicurezza e veicoli autonomi
beh, alcuni di voi potrebbero averlo visto
problema in un diverso tipo di contesto
questo è un famoso problema etico
diversi decenni chiamato il carrello
problema e per quelli di voi che non lo fanno
conosci l’idea che sei come spettatore
o assistere a un carrello che ha
purtroppo ha perso i suoi freni in qualche modo
precipitare in pista a cinque persone che
sono bloccati quindi di fronte a loro
fine imminente e stai guardando
questa situazione orribile e avere il
scelta di tirare una leva che è appena dentro
davanti a te e se lo fai lo farai
deviare il carrello su una pista separata
poco più avanti e invece di uccidere il
cinque persone ne ucciderai una, quindi questa è una
le persone problematiche classiche sono tornate indietro
e avanti per tutto il tempo che il problema ha
sono stato in giro e probabilmente lo faranno
continuare a farlo per molto più tempo
sono già passati diversi decenni
importante di quale scegliere
questo scenario è il motivo per cui si è scelto di esso
Certo che la domanda è quali sono i nostri
etica cosa dovremmo fare che è dove
diventa interessante nel contesto
di nuovo di auto a guida autonoma da pochi anni
fa un gruppo del MIT Media Lab ha fatto questo
progetto chiamato quella potente macchina morale
ed è un sito web a cui puoi accedere e
scegli tra questi trolly come
scenari e hanno una sorta di estrapolazione
dal problema del carrello con diversi
diversi fattori oltre a soli cinque e
uno ed è davvero interessante e
hanno ovviamente raccolto una tonnellata di
dati su ciò che le persone tendono a fare ma
a volte ciò che le persone tendono a fare non lo è
abbastanza e certamente non è abbastanza
sai cosa dovremmo fare perché cosa
la gente pensa e ciò che è giusto è spesso
totalmente diverso quindi vediamo
è andato in un problema piuttosto importante
che è quello che programmiamo autonomamente
veicoli non possiamo semplicemente instillare i nostri
Fuey morale perché non lo sappiamo bene
abbastanza e se qualcuno pensa di sapere
probabilmente hanno torto o qualcuno
sarà in disaccordo con loro quindi è un grande
problema quello che sappiamo è quello
i veicoli autonomi dovrebbero essere dovresti
fare le seguenti cose bene dovrebbero
allineare con i nostri valori e sostenere come
i nostri proxy dovrebbero essere in grado di
eseguire anche meglio degli umani perché
anche i migliori guidatori umani non sono bravi
abbastanza per le nostre auto a guida autonoma e
infine dovrebbero usare l’apprendimento automatico
per arrivarci che è una delle chiavi
abilitazione di funzioni di artificiale moderno
intelligenza per quelli di voi che non lo sono
familiarità con l’apprendimento della macchina
l’idea è che puoi applicarlo alla soluzione
problemi astratti usando la matematica logica
e le statistiche quindi se c’è qualche obiettivo
vogliamo realizzare ma non lo sappiamo
esattamente come arrivarci possiamo usare
machine learning per aiutarci c’è a
alcuni diversi tipi di apprendimento automatico
che ho intenzione di parlare di che sono
abbastanza importante per la parte anteriore di questo
problema di auto a guida autonoma penso uno
una sorta di opzione è l’apprendimento supervisionato
è un approccio abbastanza comune e il
l’idea è che forniamo un enorme set di dati
e forniamo tutti questi dati e andiamo
attraverso questo processo di formazione e in
facendo così dimostriamo come potremmo andare
di fare un po ‘di comportamento e poi
attraverso questo processo di formazione
l’algoritmo imparerà a prevedere il nostro
comportamento così classico esempio di questo è
classificazione delle immagini, quindi potremmo avere un
molte immagini di cani e gatti e lungo
con quello avremo questo tipo di
etichette di verità di terra di cane e gatto che
forniamo insieme alle immagini e
che sarà certo si inizia a imparare che
un’immagine del gatto assomiglia a questo e un cane
l’immagine si presenta estrapolando
schemi astratti e alla fine lo faremo
essere in grado di nutrirlo con una nuova immagine e lo farà
dì oh questo è un gatto ma quello è un cane e
il problema con questo approccio è quello
dobbiamo essere in grado di fornire questo
enorme insieme di dati e se non ci sentiamo
comodo fornendo questo set enorme
di dati che forse non dovremmo prendere
questo approccio è l’apprendimento di rinforzo
un’altra opzione e l’idea qui è quella
invece di fornire una grande quantità di
dati possiamo fornire un senso di valore
o ricompensa e poi attraverso il
processo di addestramento dell’algoritmo
impara a massimizzare quella ricompensa e fare
le decisioni che aiutano ad allineare con quello
premio premio e possono scegliere di non farlo
prendere decisioni che sono contro questo
il problema qui in termini di bias è
che dobbiamo sentirci a nostro agio
specificando i premi quindi in questo caso noi
potrebbe avere un mouse robot o un mouse AI
navigare in un labirinto che inizia in modo casuale
per tentativi ed errori e specificiamo
attraverso il labirinto alcune utilità negative
e alcune utilità positive e
alla fine verrà bruciato dal
utilità negative e scegliere il bene il
buon percorso invece quindi dobbiamo sentirci
comodo fornire questi premi in
qualsiasi impostazione in cui vogliamo utilizzare
apprendimento di rinforzo più complesso
esempio di questi apparentemente semplici
approcci sarebbe qualcosa di simile
e per quelli di voi che non riconoscono
questa è un’antica tavola cinese
gioco chiamato andare ed è diventato l’oro
standard per molto artificiale
la ricerca dell’intelligence è davvero
complesso
è una scheda 19 per 19 e c’è di più
possibili configurazioni del gioco rispetto a
ci sono particelle nell’universo così
inutile dire che è davvero complicato
ed è anche il motivo per cui è un ottimo modo per
prova la nostra intelligenza artificiale così
c’è un gruppo chiamato Deep Mind che
ora è Google che li sta facendo
AI molto interessante è chiamato alphago
quali sono gli occhi che giocano a questo gioco e
battono i migliori giocatori umani
là il più recente e discutibilmente
il più interessante per i nostri scopi è
alphago zero che come suggerisce il nome
parte da un livello veramente basso di
l’intelligenza, come puoi vedere, la diamo
informazioni molto limitate che abbiamo anticipato
non fornire un enorme set di dati che potremmo
fornire le regole del gioco e come
potresti generare il seguente legale
muoviti e questo è tutto
e da ciò impara a giocare
tremendamente bene e se si guarda indietro
al grafico in realtà impara a giocare
meglio di qualsiasi altra versione di go the
linea tratteggiata del grafico lì
rappresenta il punto di riferimento del gioco umano
gioco esperto umano da un’altra versione
chiamato alfa portiere e lo vedrai
un approccio di apprendimento supervisionato e purpl
non lo passa abbastanza perché non lo fa mai
può perché, come abbiamo detto, supervisionato
l’apprendimento è solo una previsione del nostro comportamento
ma alphago 0 e blu non ci riescono
superare il precedente in precedenza
standard insuperabile prima di troppo
il tempo è addirittura necessario in allenamento e
questo significa che può innovare davvero
modi intelligenti e gioca mosse davvero intelligenti
e una delle versioni di alphago
usato lo stesso tipo di approccio che ha giocato
una mossa contro il campione del mondo andare
giocatore che nessuno si aspettava e pensava
era un errore che tutti pensavano fosse un
errore ma si scopre che ha vinto la partita
alcune mosse dopo ed è
discorso incredibile tra i risucchi
gli iasts è un gioco da tavolo davvero fantastico
ma le auto a guida autonoma sono davvero
complicato e più di quanto che essi
contano anche come giochi da tavolo
non perché se un auto a guida autonoma
incasina qualcuno potrebbe morire così vogliamo
per prestare un po ‘più di attenzione a cosa
noi come programmiamo quelle macchine quali sono
le differenze poi tra un veramente
approccio intelligente come alphago zero e
cosa avremmo bisogno di cambiare per
ottenere qualcosa come auto autonome a
lavora come vogliamo che vadano bene per uno
regole di alphago zero e siamo fa io
veramente definito abbastanza bene ma le regole
per così dire del problema di
auto a guida autonoma o no, intendo queste
sono le regole morali di cui stavamo parlando
prima che siano così sfuggenti e noi
non possono essere quelli per dichiararli
esplicitamente e appuntali perché se
abbiamo torto che le conseguenze sarebbero
catastrofico c’è anche quest’altro
emettere che il seguente dichiara il tipo
di ciò che potrebbe accadere dopo non è così
chiaramente definito anche se una ONG
ci sono molte opzioni diverse che potresti
tecnicamente elencali se vuoi
per e nel mondo reale che non è così
il modo in cui è qualcosa di pazzo potrebbe
capita che il Millenium Falcon possa cadere
dal cielo e non lo sappiamo quindi come si fa
risolviamo questo bene solo penso
per risolvere il primo problema questa idea di
non avendo regole che dobbiamo creare
qualcosa che diamo questo algoritmo
innatamente dico che dobbiamo creare
qualche nozione di valore primitivo qualcosa
che è fondamentale e incrollabile alcuni
tipo di verità morale che molte persone
non starebbe cercando di essere in disaccordo con
questo potrebbe essere qualcosa come tutto
la vita senziente o tutta la vita umana ha
la morale intrinseca vale qualcosa come
e poi da lì lasceremmo
la macchina invece fa più lavoro
di noi fornendo queste regole esplicite e
rischiando di sbagliare cosa intendo con
cioè con un approccio come alphago
zeri tu puoi fornire qualcosa basato
come questo come quello della regola del
gioco e farlo capire attraverso il
processo di prova ed errore di ricerca e
giocando a se stesso ciò che le decisioni portano a
buone mosse che sono allineate con queste
valori e quali decisioni portano davvero
mosse terribili che non sono allineati con
questi valori così sarà astratto e
creare verità morali di livello superiore senza
dobbiamo farlo e risolvere il
problema di non conoscere uno stato seguente
potremmo avere un sistema separato che ha
una certa conoscenza delle leggi fisiche di
Naturalmente questo è
immensamente complesso ma non lo è
costruttori di automobili impensabili e
le case automobilistiche hanno tonnellate di dati sulla macchina
si blocca e ciò che le persone generalmente fanno
sbagliato, quindi abbiamo già un buon senso
cosa potrebbe non essere una buona idea da fare o
cosa potrebbe portare a un incidente, torniamo
a questa nozione di valore primitivo e no
non è un errore, questo significa
quello che potrebbe sollevare i nostri robot non è così
diverso dal crescere i nostri figli in
un po ‘di senso non lo diciamo ai nostri figli
tutto o renderli copie in carbonio di
noi perché è impossibile non possiamo noi
potrebbe provare ma non possiamo, invece, penso
come potrebbe essere un bambino con a
curiosità naturale che sta esplorando il
mondo ma ha questo sottostante innato
macchine per esempio tutti noi abbiamo un
il senso del dolore non significa che sappiamo cosa
provoca dolore o sappiamo cosa non fare noi
devo scoprirlo attraverso il disordine
ma un bambino potrebbe toccare un molto caldo
stufa e poi in seguito probabilmente mai
fallo di nuovo perché fa davvero male e
quel processo è cruciale è il loro
esplorazione ed è la stessa cosa
come alphago zero o cosa sto suggerendo
qui dobbiamo fornire qualcosa
innatamente ma non possiamo fornire tutto
innatamente ciò deve essere fatto attraverso
si gioca da solo, quindi ciò che significa è che um
abbiamo questo tipo di evoluzione
approccio e un approccio evolutivo
significa che abbiamo una sorta di fornire qualcosa
e quindi permettiamo a una macchina di
capire di più da solo e si potrebbe
stai pensando bene che suona bene
ma non è abbastanza è abbastanza
per fornire solo alcuni piccoli dettagli
verità morale formativa e fiducia che il
la macchina ovviamente non lo fa
non lo taglierà e potrebbe andare
terribilmente sbagliato, quindi non vogliamo solo
facciamo che ciò che possiamo fare invece è che possiamo
inizia con quello e poi attraverso quello
processo di formazione che possiamo fare
checkpoint lungo la strada in cui diciamo
ecco uno scenario che cosa stai andando a
fare in questo scenario e possiamo vedere se è così
ha senso e se le persone concordano sul fatto che
ha senso o se è una pessima idea
e se è una pessima idea, possiamo
fornire quel feedback se è un terribile
idea possiamo dire di no e invece di
specificando un cambiamento strutturale
esplicitamente noi stessi o andando e
manualmente e cambiando qualche codice che possiamo
Farlo fare alla macchina da solo
può dire poiché è solo un mucchio di
probabilità e numeri comunque questo
era quello che ero più sicuro e
che era la mia scelta numero uno che era
la mia decisione ma se diciamo che non era un
buona idea
può scegliere questo numero a scelta due o
numero tre e può farlo in a
mazzo di diverse configurazioni
perché è ovviamente molto complesso e
ci sono molti nodi diversi così attraverso
questo processo possiamo continuare questo annuncio
nauseam e trovare una soluzione
in realtà finisce per essere esattamente dove siamo noi
voglio che sia in termini dei nostri valori noi
può avere un sistema che si allinea con il nostro
valori perché l’abbiamo provato
rigorosamente ma non dobbiamo
definire esplicitamente le nostre verità morali in
per arrivarci se consideri il
apprendimento come imposizione come abbiamo parlato
circa prima non conosciamo le nostre verità
abbastanza bene da semplificarli in un
funzione di costo sarebbe un disastro
invece possiamo incontrare la macchina a metà strada
e permettergli di fare parte del lavoro come
bene, so che sembra controintuitivo
pensa che l’ opzione più sicura sia in realtà
prendere questa via di mezzo, ma io davvero
penso che sia il caso lì incredibile
vantaggi di auto a guida autonoma e noi
voglio essere in grado di raccogliere quei benefici
della sicurezza dell’efficienza e molto altro ancora
e penso che l’unico modo chiaro per
farlo correttamente è quello di consentire alla macchina
avere più libertà di quella che avremmo
inizialmente pensato e fare noi stessi il
strumento di verifica come standard
bordo e assicurarsi che niente di male
cadranno nelle mani di
consumatori o coloro che desiderano impegnarsi in
questo lo farà l’uso di auto che guidano
abilitare un futuro auto-guida e fare
le nostre vite molto più facili grazie
[Applausi]
Buongiorno, mi chiamo Josh Packer
un anziano qui all’Università di
Rochester studia informatica e
filosofia che il mio progetto per l’ ultimo anno ha
stato sul tema della decisione etica
fabbricazione e veicoli autonomi e
specificamente questa idea di come potremmo
andare su mitigare pregiudizi quando
programmando veicoli autonomi così da te
i ragazzi hanno probabilmente sentito parlare di auto-guida
le auto a volte sembrano così e
più di quanto tu sappia guidare da solo
la tecnologia nelle auto che comprate
oggi e questa tendenza continuerà solo
mentre andiamo avanti, la tecnologia è
sorprendente e che consente nuove
efficienze e ottimizzazioni ma noi
Devo anche fare un sacco di lavoro da fare
sicuro che questa tecnologia sia sicura così
che le persone vogliono usarlo e sentire
comodo avere questo come un quotidiano
esperienza quindi cosa intendo quando parlo
su sicurezza e veicoli autonomi
beh, alcuni di voi potrebbero averlo visto
problema in un diverso tipo di contesto
questo è un famoso problema etico
diversi decenni chiamato il carrello
problema e per quelli di voi che non lo fanno
conosci l’idea che sei come spettatore
o assistere a un carrello che ha
purtroppo ha perso i suoi freni in qualche modo
precipitare in pista a cinque persone che
sono bloccati quindi di fronte a loro
fine imminente e stai guardando
questa situazione orribile e avere il
scelta di tirare una leva che è appena dentro
davanti a te e se lo fai lo farai
deviare il carrello su una pista separata
poco più avanti e invece di uccidere il
cinque persone ne ucciderai una, quindi questa è una
le persone problematiche classiche sono tornate indietro
e avanti per tutto il tempo che il problema ha
sono stato in giro e probabilmente lo faranno
continuare a farlo per molto più tempo
sono già passati diversi decenni
importante di quale scegliere
questo scenario è il motivo per cui si è scelto di esso
Certo che la domanda è quali sono i nostri
etica cosa dovremmo fare che è dove
diventa interessante nel contesto
di nuovo di auto a guida autonoma da pochi anni
fa un gruppo del MIT Media Lab ha fatto questo
progetto chiamato quella potente macchina morale
ed è un sito web a cui puoi accedere e
scegli tra questi trolly come
scenari e hanno una sorta di estrapolazione
dal problema del carrello con diversi
diversi fattori oltre a soli cinque e
uno ed è davvero interessante e
hanno ovviamente raccolto una tonnellata di
dati su ciò che le persone tendono a fare ma
a volte ciò che le persone tendono a fare non lo è
abbastanza e certamente non è abbastanza
sai cosa dovremmo fare perché cosa
la gente pensa e ciò che è giusto è spesso
totalmente diverso quindi vediamo
è andato in un problema piuttosto importante
che è quello che programmiamo autonomamente
veicoli non possiamo semplicemente instillare i nostri
Fuey morale perché non lo sappiamo bene
abbastanza e se qualcuno pensa di sapere
probabilmente hanno torto o qualcuno
sarà in disaccordo con loro quindi è un grande
problema quello che sappiamo è quello
i veicoli autonomi dovrebbero essere dovresti
fare le seguenti cose bene dovrebbero
allineare con i nostri valori e sostenere come
i nostri proxy dovrebbero essere in grado di
eseguire anche meglio degli umani perché
anche i migliori guidatori umani non sono bravi
abbastanza per le nostre auto a guida autonoma e
infine dovrebbero usare l’apprendimento automatico
per arrivarci che è una delle chiavi
abilitazione di funzioni di artificiale moderno
intelligenza per quelli di voi che non lo sono
familiarità con l’apprendimento della macchina
l’idea è che puoi applicarlo alla soluzione
problemi astratti usando la matematica logica
e le statistiche quindi se c’è qualche obiettivo
vogliamo realizzare ma non lo sappiamo
esattamente come arrivarci possiamo usare
machine learning per aiutarci c’è a
alcuni diversi tipi di apprendimento automatico
che ho intenzione di parlare di che sono
abbastanza importante per la parte anteriore di questo
problema di auto a guida autonoma penso uno
una sorta di opzione è l’apprendimento supervisionato
è un approccio abbastanza comune e il
l’idea è che forniamo un enorme set di dati
e forniamo tutti questi dati e andiamo
attraverso questo processo di formazione e in
facendo così dimostriamo come potremmo andare
di fare un po ‘di comportamento e poi
attraverso questo processo di formazione
l’algoritmo imparerà a prevedere il nostro
comportamento così classico esempio di questo è
classificazione delle immagini, quindi potremmo avere un
molte immagini di cani e gatti e lungo
con quello avremo questo tipo di
etichette di verità di terra di cane e gatto che
forniamo insieme alle immagini e
che sarà certo si inizia a imparare che
un’immagine del gatto assomiglia a questo e un cane
l’immagine si presenta estrapolando
schemi astratti e alla fine lo faremo
essere in grado di nutrirlo con una nuova immagine e lo farà
dì oh questo è un gatto ma quello è un cane e
il problema con questo approccio è quello
dobbiamo essere in grado di fornire questo
enorme insieme di dati e se non ci sentiamo
comodo fornendo questo set enorme
di dati che forse non dovremmo prendere
questo approccio è l’apprendimento di rinforzo
un’altra opzione e l’idea qui è quella
invece di fornire una grande quantità di
dati possiamo fornire un senso di valore
o ricompensa e poi attraverso il
processo di addestramento dell’algoritmo
impara a massimizzare quella ricompensa e fare
le decisioni che aiutano ad allineare con quello
premio premio e possono scegliere di non farlo
prendere decisioni che sono contro questo
il problema qui in termini di bias è
che dobbiamo sentirci a nostro agio
specificando i premi quindi in questo caso noi
potrebbe avere un mouse robot o un mouse AI
navigare in un labirinto che inizia in modo casuale
per tentativi ed errori e specificiamo
attraverso il labirinto alcune utilità negative
e alcune utilità positive e
alla fine verrà bruciato dal
utilità negative e scegliere il bene il
buon percorso invece quindi dobbiamo sentirci
comodo fornire questi premi in
qualsiasi impostazione in cui vogliamo utilizzare
apprendimento di rinforzo più complesso
esempio di questi apparentemente semplici
approcci sarebbe qualcosa di simile
e per quelli di voi che non riconoscono
questa è un’antica tavola cinese
gioco chiamato andare ed è diventato l’oro
standard per molto artificiale
la ricerca dell’intelligence è davvero
complesso
è una scheda 19 per 19 e c’è di più
possibili configurazioni del gioco rispetto a
ci sono particelle nell’universo così
inutile dire che è davvero complicato
ed è anche il motivo per cui è un ottimo modo per
prova la nostra intelligenza artificiale così
c’è un gruppo chiamato Deep Mind che
ora è Google che li sta facendo
AI molto interessante è chiamato alphago
quali sono gli occhi che giocano a questo gioco e
battono i migliori giocatori umani
là il più recente e discutibilmente
il più interessante per i nostri scopi è
alphago zero che come suggerisce il nome
parte da un livello veramente basso di
l’intelligenza, come puoi vedere, la diamo
informazioni molto limitate che abbiamo anticipato
non fornire un enorme set di dati che potremmo
fornire le regole del gioco e come
potresti generare il seguente legale
muoviti e questo è tutto
e da ciò impara a giocare
tremendamente bene e se si guarda indietro
al grafico in realtà impara a giocare
meglio di qualsiasi altra versione di go the
linea tratteggiata del grafico lì
rappresenta il punto di riferimento del gioco umano
gioco esperto umano da un’altra versione
chiamato alfa portiere e lo vedrai
un approccio di apprendimento supervisionato e purpl
non lo passa abbastanza perché non lo fa mai
può perché, come abbiamo detto, supervisionato
l’apprendimento è solo una previsione del nostro comportamento
ma alphago 0 e blu non ci riescono
superare il precedente in precedenza
standard insuperabile prima di troppo
il tempo è addirittura necessario in allenamento e
questo significa che può innovare davvero
modi intelligenti e gioca mosse davvero intelligenti
e una delle versioni di alphago
usato lo stesso tipo di approccio che ha giocato
una mossa contro il campione del mondo andare
giocatore che nessuno si aspettava e pensava
era un errore che tutti pensavano fosse un
errore ma si scopre che ha vinto la partita
alcune mosse dopo ed è
discorso incredibile tra i risucchi
gli iasts è un gioco da tavolo davvero fantastico
ma le auto a guida autonoma sono davvero
complicato e più di quanto che essi
contano anche come giochi da tavolo
non perché se un auto a guida autonoma
incasina qualcuno potrebbe morire così vogliamo
per prestare un po ‘più di attenzione a cosa
noi come programmiamo quelle macchine quali sono
le differenze poi tra un veramente
approccio intelligente come alphago zero e
cosa avremmo bisogno di cambiare per
ottenere qualcosa come auto autonome a
lavora come vogliamo che vadano bene per uno
regole di alphago zero e siamo fa io
veramente definito abbastanza bene ma le regole
per così dire del problema di
auto a guida autonoma o no, intendo queste
sono le regole morali di cui stavamo parlando
prima che siano così sfuggenti e noi
non possono essere quelli per dichiararli
esplicitamente e appuntali perché se
abbiamo torto che le conseguenze sarebbero
catastrofico c’è anche quest’altro
emettere che il seguente dichiara il tipo
di ciò che potrebbe accadere dopo non è così
chiaramente definito anche se una ONG
ci sono molte opzioni diverse che potresti
tecnicamente elencali se vuoi
per e nel mondo reale che non è così
il modo in cui è qualcosa di pazzo potrebbe
capita che il Millenium Falcon possa cadere
dal cielo e non lo sappiamo quindi come si fa
risolviamo questo bene solo penso
per risolvere il primo problema questa idea di
non avendo regole che dobbiamo creare
qualcosa che diamo questo algoritmo
innatamente dico che dobbiamo creare
qualche nozione di valore primitivo qualcosa
che è fondamentale e incrollabile alcuni
tipo di verità morale che molte persone
non starebbe cercando di essere in disaccordo con
questo potrebbe essere qualcosa come tutto
la vita senziente o tutta la vita umana ha
la morale intrinseca vale qualcosa come
e poi da lì lasceremmo
la macchina invece fa più lavoro
di noi fornendo queste regole esplicite e
rischiando di sbagliare cosa intendo con
cioè con un approccio come alphago
zeri tu puoi fornire qualcosa basato
come questo come quello della regola del
gioco e farlo capire attraverso il
processo di prova ed errore di ricerca e
giocando a se stesso ciò che le decisioni portano a
buone mosse che sono allineate con queste
valori e quali decisioni portano davvero
mosse terribili che non sono allineati con
questi valori così sarà astratto e
creare verità morali di livello superiore senza
dobbiamo farlo e risolvere il
problema di non conoscere uno stato seguente
potremmo avere un sistema separato che ha
una certa conoscenza delle leggi fisiche di
Naturalmente questo è
immensamente complesso ma non lo è
costruttori di automobili impensabili e
le case automobilistiche hanno tonnellate di dati sulla macchina
si blocca e ciò che le persone generalmente fanno
sbagliato, quindi abbiamo già un buon senso
cosa potrebbe non essere una buona idea da fare o
cosa potrebbe portare a un incidente, torniamo
a questa nozione di valore primitivo e no
non è un errore, questo significa
quello che potrebbe sollevare i nostri robot non è così
diverso dal crescere i nostri figli in
un po ‘di senso non lo diciamo ai nostri figli
tutto o renderli copie in carbonio di
noi perché è impossibile non possiamo noi
potrebbe provare ma non possiamo, invece, penso
come potrebbe essere un bambino con a
curiosità naturale che sta esplorando il
mondo ma ha questo sottostante innato
macchine per esempio tutti noi abbiamo un
il senso del dolore non significa che sappiamo cosa
provoca dolore o sappiamo cosa non fare noi
devo scoprirlo attraverso il disordine
ma un bambino potrebbe toccare un molto caldo
stufa e poi in seguito probabilmente mai
fallo di nuovo perché fa davvero male e
quel processo è cruciale è il loro
esplorazione ed è la stessa cosa
come alphago zero o cosa sto suggerendo
qui dobbiamo fornire qualcosa
innatamente ma non possiamo fornire tutto
innatamente ciò deve essere fatto attraverso
si gioca da solo, quindi ciò che significa è che um
abbiamo questo tipo di evoluzione
approccio e un approccio evolutivo
significa che abbiamo una sorta di fornire qualcosa
e quindi permettiamo a una macchina di
capire di più da solo e si potrebbe
stai pensando bene che suona bene
ma non è abbastanza è abbastanza
per fornire solo alcuni piccoli dettagli
verità morale formativa e fiducia che il
la macchina ovviamente non lo fa
non lo taglierà e potrebbe andare
terribilmente sbagliato, quindi non vogliamo solo
facciamo che ciò che possiamo fare invece è che possiamo
inizia con quello e poi attraverso quello
processo di formazione che possiamo fare
checkpoint lungo la strada in cui diciamo
ecco uno scenario che cosa stai andando a
fare in questo scenario e possiamo vedere se è così
ha senso e se le persone concordano sul fatto che
ha senso o se è una pessima idea
e se è una pessima idea, possiamo
fornire quel feedback se è un terribile
idea possiamo dire di no e invece di
specificando un cambiamento strutturale
esplicitamente noi stessi o andando e
manualmente e cambiando qualche codice che possiamo
Farlo fare alla macchina da solo
può dire poiché è solo un mucchio di
probabilità e numeri comunque questo
era quello che ero più sicuro e
che era la mia scelta numero uno che era
la mia decisione ma se diciamo che non era un
buona idea
può scegliere questo numero a scelta due o
numero tre e può farlo in a
mazzo di diverse configurazioni
perché è ovviamente molto complesso e
ci sono molti nodi diversi così attraverso
questo processo possiamo continuare questo annuncio
nauseam e trovare una soluzione
in realtà finisce per essere esattamente dove siamo noi
voglio che sia in termini dei nostri valori noi
può avere un sistema che si allinea con il nostro
valori perché l’abbiamo provato
rigorosamente ma non dobbiamo
definire esplicitamente le nostre verità morali in
per arrivarci se consideri il
apprendimento come imposizione come abbiamo parlato
circa prima non conosciamo le nostre verità
abbastanza bene da semplificarli in un
funzione di costo sarebbe un disastro
invece possiamo incontrare la macchina a metà strada
e permettergli di fare parte del lavoro come
bene, so che sembra controintuitivo
pensa che l’ opzione più sicura sia in realtà
prendere questa via di mezzo, ma io davvero
penso che sia il caso lì incredibile
vantaggi di auto a guida autonoma e noi
voglio essere in grado di raccogliere quei benefici
della sicurezza dell’efficienza e molto altro ancora
e penso che l’unico modo chiaro per
farlo correttamente è quello di consentire alla macchina
avere più libertà di quella che avremmo
inizialmente pensato e fare noi stessi il
strumento di verifica come standard
bordo e assicurarsi che niente di male
cadranno nelle mani di
consumatori o coloro che desiderano impegnarsi in
questo lo farà l’uso di auto che guidano
abilitare un futuro auto-guida e fare
le nostre vite molto più facili grazie
[Applausi]
Please follow and like us: