[Musica]
di Domenica sera Elaine stava attraversando
la strada con la sua bicicletta quando una macchina
si schiantò contro di lei a 40 miglia all’ora
portando a lesioni
alla fine ha causato la sua morte in
Finsbury Park un gruppo di persone raccolte
intorno a un musulmano che era collassato dopo
preghiera appena fuori da una moschea quando un’auto
guidato fuori strada tra la folla
uccidendo Makram Ali entrambi questi eventi
sono tragedie ma ce n’è una molto
importante differenza tra i due di
loro Makram fu ucciso da un uomo
motivato dall’odio qualcuno che semplicemente
volevo vedere alcuni musulmani morire
Elaine è stata uccisa da un computer ora di
corso quando possiamo facilmente descrivere il
azioni di Makram assassino come immorale o
anche il male ma come descriviamo il
azioni del killer di Elaine l’incidente
con ubers auto a guida autonoma era un
incidente è stato un problema tecnico qualcosa
accade estremamente raramente e dato il
fatto che i veicoli autonomi potrebbero
ridurre gli incidenti stradali fino a
Il 90 percento sembra valere ancora il rischio
dovremmo fermarci e chiederci come
ci sentiremmo se il computer avesse fatto un
scelta calcolata per colpire Elaine e se
è stata la decisione tra colpire
Elaine o colpire altri due pedoni
colpire Elaine o salvare i driver
la vita forse il computer sarebbe pari
scegli di colpire solo più pedoni
per salvare la vita dei driver a questo punto
stiamo definendo chiaramente le azioni come
morale o immorale, chiedo a queste domande
non per farti paura di attraversare il
strada ma per evidenziare i tanti complessi
e problemi spinosi che circondano le macchine
e la moralità non è un argomento
appartiene puramente ad un romanzo di Isaac Asimov
né è qualcosa che sarà
rilevante tra 30 anni da adesso è qui
oggi sta accadendo ora quindi noi
dovrebbe davvero parlare di
intelligenza artificiale e moralità
più spesso l’intelligenza artificiale è
si sta facendo strada in parti cruciali di
la nostra società al servizio di ruoli primari in
ospedali con militari di Mattila
attrezzatura autonoma che fa il magazzino
scelte nel 2010 un gruppo di ai ha portato
il mercato azionario scende del 9% in semplice
secondi e questo è solo l’inizio come AI
si intreccia in aspetti cruciali di
società prenderà decisioni cruciali
questo avrà grandi conseguenze e serie
ramificazioni morali e cosa c’è
inquietante su questo è così diverso
matematica o chimica che non abbiamo
regole ferree e veloci per la moralità
la moralità è un argomento polemico che è
qualcosa per cui molti di noi non sono d’accordo
da dove proviene o come si applica
a determinati gruppi ma ancora dobbiamo
superare queste differenze e trovarne
strategia per risolvere questi problemi
Credo che fondamentalmente si riduce a due
domande chiave prima come possiamo garantire
che una macchina capisce cosa è morale
in secondo luogo, come possiamo garantire che una macchina
si comporta moralmente ora quando risponde al
prima domanda sulla comprensione di molti
ovviamente guarderò alle teorie morali
poiché le teorie morali possono semplificare
moralità e modi importanti per esempio
utilitarismo che sostiene che
ciò che è più morale è ciò che massimizza
felicità per il maggior numero di
la gente ha dato il fatto che l’utilità è un
concetto ampiamente utilizzato in informatica
forse è un buon posto per iniziare ancora
altri potrebbero argomentare per una più basata sulle regole
approccio forse se possiamo specificare il
giusto numero di regole regole come no
raccontare bugie, quindi possiamo assicurarci che a
macchina se seguiranno quelle regole lo faranno
comportarsi moralmente lo direi
entrambi questi approcci sono alla fine
fuorviato per una ragione molto semplice l ‘
il mondo è fin troppo complesso se i nazisti
vieni a bussare alla tua porta e lo sei
ospitando e franco la maggior parte di noi vorrebbe
d’accordo la cosa più morale da fare è dire
una bugia e dire che lei non è lì, ma questo
viola una massima morale comune a no
dire bugie e anche in questo caso lo farebbe
violare la legge il problema è questo
Computer Sciences è in lotta con
moralità perché è piena di eccezioni
e queste eccezioni esplodono rapidamente
in problemi irrisolvibili
per fortuna era l’intelligenza artificiale
sviluppato come un modo per affrontare tale
problemi di risoluzione dei problemi in cui il
la gomma incontra la strada incredibile e
straordinario strumento di intelligenza artificiale
è l’apprendimento automatico della macchina
ci consente di non dettare più ogni
sposta e contrasta muove invece una macchina
può rispondere dinamicamente al suo
ambiente può imparare e migliorare
nel tempo questo è il motivo per cui in
giochi come andare a scacchi vediamo questo
successo vediamo alcune applicazioni in
gli scacchi vediamo un sacco di applicazioni e
vai nel gioco degli scacchi per esempio io
posso darti delle linee guida che posso dire che è
meglio non perdere la tua regina ma lì
saranno i momenti in cui perderai la tua regina
è l’unico modo per vincere la partita e il
lo stesso con la morale, posso dire che è meglio
non per dire una bugia, ma ci sarà
tempi in cui dire la bugia è il massimo
cosa morale farlo con la macchina
imparando possiamo migliorare con questi
cose e possiamo crescere e dinamicamente
rispondere ai problemi mentre si presentano
quindi se la moralità dovrebbe essere davvero
imparato e non necessariamente strutturato
in un quadro formale come andiamo
di fare che direi il migliore
il punto di partenza è guardare a noi stessi
come sviluppiamo moralmente come facciamo noi
diventare più persone morali e in definitiva
è un equilibrio tra due concorrenti
forza la natura e alimenta la natura nel
sentiamo che non veniamo in questo mondo
con le liste vuote entriamo in una genetica
predisposizioni reazioni emotive
gioca sempre ruoli molto importanti in
modellando come sviluppiamo moralmente
molti potrebbero dire che ciò suggerirebbe
la moralità è in qualche modo innatamente umana
non può essere trasferito ad un computer I
direi il contrario dell’evoluzione
è un processo algoritmico quindi possiamo
utilizzare algoritmi per sbloccare potenzialmente
Cosa c’è , usiamo algoritmi genetici
tutto il tempo tutto il tempo e la macchina
apprendimento che ci consente di ereditare il bene
idee e buone strategie nel tempo
forse il gruppo giusto di evolutivo
psicologi filosofi computer
gli scienziati potrebbero essere in grado di usarli
algoritmi per attingere ad alcuni dei
gemme nascoste di moralità incorporate all’interno
evoluzione dall’altra parte del
spettro abbiamo nutrimento con nutrimento
è ciò che apprendiamo dagli altri è il nostro
osservazione dai nostri genitori da
società un gruppo interessante di
algoritmi che mostrano la promessa qui è
chiamato apprendimento dell’apprendistato
apprendimento dell’apprendistato essenzialmente
inverte l’idea di un più comune
approccio chiamato apprendimento di rinforzo
osservare gli umani che svolgono un compito e
dal successo di questo compito
determinare quali azioni erano buone o
male a prescindere dai dettagli
gli algoritmi mostrano molte promesse e
potenzialmente sbloccando alcuni aspetti di
moralità naturalmente, questi inizierebbero
semplice e gradualmente crescere in complessità
più o meno nello stesso modo in cui i bambini imparano
concetti e modi semplici attraverso i premi
e punizione e mentre invecchiano
sono finalmente in grado di generalizzare
concetti più ampi di giustizia sociale
l’ apprendimento automatico è sicuramente il percorso
avanti e avere successo in questo
cercare di attingere e trasmettere
la moralità di un computer sarebbe un
incredibile risultato umano sarebbe
un incredibile risultato umano e
coinvolgerà tecnologie e
tecniche in cui non sono entrato oggi ma
tutto ciò sarebbe per non tutto
non servirebbe a nulla se non potessimo rispondere
quella seconda domanda che è come facciamo noi
assicurarsi che una macchina si comporti effettivamente
moralmente, naturalmente, molti diranno questo
il più facile delle due domande però
le macchine fanno automaticamente ciò che diciamo
loro non sono tenuti a fare
che bene questo è problematico per due
ragioni principali prima
le macchine non le diciamo di fare tutto
il tempo se hai mai lavorato su
qualcosa di complicato e ottenuto così
frustrato volevi solo scollegare il
il computer esce in piscina e lancia
il tuo computer in te sa esattamente cosa
Sto parlando
viene spesso chiamato errore dell’utente ma
fondamentalmente si riduce all’idea semplice
che le idee su un lato del
la tastiera non è la stessa delle idee
dall’altra parte della tastiera, se noi
lotta con la formattazione di un documento
immagina di sviluppare un obiettivo come
sofisticato come migliorare l’ economia
tale che ha una morale imprevista
conseguenze e ciò che è peggio è quello
gli obiettivi non esistono in modo isolato vengono
in conflitto tra loro e quelli
i conflitti creano complessità nel computer
la scienza potremmo vederlo nella forma di
permesso negato
ma nella moralità lo vediamo sempre
così c’è davvero un interessante
studio fatto da alcuni scienziati con
Studenti del Seminario Teologico di Princeton
è uno studio di Darlene Benson del 1973
lo scienziato ha preso questi studenti e ha chiesto
loro per fare un discorso sul bene
samaritano che è una storia di aiuto
altri hanno bisogno di mettere un ferito
persona tra il dormitorio degli studenti
e la posizione del discorso poi si
studia per vedere quanti studenti vorranno
fermati e aiuta l’infortunato
risulta il fattore più importante in
determinare se questi o no
gli studenti si fermavano era quanto tardi
erano nel 66% delle volte se erano in
tempo si fermerebbero mentre solo il 10% di
il tempo in cui erano in ritardo sarebbe
fermano ciò che sta succedendo qui chiaramente
c’è un conflitto obiettivo che ci sta succedendo
avere l’obiettivo di essere implicitamente buono a
sii morale e questi studenti hanno questo
obiettivo e incluso all’interno di quello sarebbe
aiutando questa persona ferita abbiamo questo
altro obiettivo più immediato che è quello di andare
e fai un discorso con un discorso registrato
moralità che suona un po ‘
familiare in questo momento e questo obiettivo arriva
in conflitto e comportamento immorale
si svolge ora nel contesto di artificiale
l’intelligenza che cosa significa questo bene
con l’ intelligenza artificiale possiamo
creare un eccellente modello morale a
macchina
capisce la moralità ma come facciamo a testare
quello che funzionerà molti lo hanno indicato
fuori che la difficoltà qui è noi
può fare test incredibili ma come lo sappiamo
se quei test catturano davvero tutto il
scenari in che misura è il mio atto di
testare in qualche modo influenzando i risultati
in qualche modo fondamentale questo è spesso
indicato come l’effetto dell’osservatore o
l’ effetto Hawthorne che è
essenzialmente l’idea che il mio atto di
il test sta influenzando in qualche modo il
partecipante in questo caso il computer
e quindi non è rappresentativo di
cosa succederebbe al di fuori del test
ora possiamo provare a gestire questo in due
potenziali modi in cui possiamo ingannare il computer
nel pensare che il computer che il
che l’esperimento si è fermato e che
le azioni del mondo reale stanno accadendo
in seguito questo ci consente di essere scienziati
studiare ciò che fa il computer ogni volta
si pensa che ci sia alcuna prova che si verificano
in alternativa possiamo fare il contrario di noi
può ingannare il computer nel pensare
che l’esperimento prosegue pubblicamente
infinito creando così una sorta di
ombrello morale un senso illusorio di
controllo morale in corso, un test costante
e allora forse questo controllo morale lo farà
gioca un ruolo importante ciò che è interessante
è quello dal punto di vista del computer
si crea un po ‘di un problema su
un senso il mio mondo è reale ma
sembra essere una simulazione e l’altra
è una simulazione ma sembra reale
se il mio pensiero che sto facendo un test è esso stesso un
parte di un test come faccio a sapere se sono
in una prova forse sono in una prova all’interno di un
testare all’interno di un test una sorta di russo
bambola metafisica di nidificazione della realtà in
quale non si può mai essere sicuri se questo è
un esperimento un test morale o meno e
questo gioca un ruolo importante questo
l’incertezza gioca un ruolo in
controllo è un potente meccanismo di
controllo morale e se non ci credi
io considero l’ equazione umana come facciamo noi
gli umani sanno se siamo in una morale
Sperimenta forse c’è un dio
categorizzando le nostre azioni in buone o
male
una forza karmica che fa qualcosa
simile o forse è anche un razionale
principio non lo sappiamo e non possiamo
dimostrare qualsiasi gruppo, giusto o sbagliato, quale
significa che ognuno di noi deve fare un
scelta personale una scelta di fede in uno
sistema di credenze o no e alla fine questo
la scelta gioca un ruolo davvero fondamentale
nelle decisioni che prendiamo nella
sviluppo morale che abbiamo la morale
scelte che seguono questo tipo di
l’esperienza inevitabilmente accadrà con a
computer che si sviluppa moralmente
almeno nel contesto di questa domanda di
è vero o è una simulazione, ma di più
probabilmente in molti altri contesti
il punto che sto cercando di fare qui di più
più di ogni altra cosa è questo quando pensiamo
sullo sviluppo morale specialmente in
contesto di intelligenza artificiale
non possiamo delimitare le questioni della scienza
da questioni di filosofia o religione
non possiamo separarli come irrilevanti
gli uni dagli altri, naturalmente, dalla matematica
e l’informatica sarà fondamentale e
assicurando che l’intelligenza artificiale
viene ad essere e poi è morale ma
anche la filosofia e la religione giocheranno
un ruolo importante nell’aiutare a definire
quella moralità e aiuta a definirlo
processo quindi dobbiamo avere un
approccio olistico a cui dobbiamo pensare
queste domande insieme perché
domande non scientifiche non conoscibili e
Dico inconoscibile con la K maiuscola
la ricerca inconoscibile è una parte necessaria di
sviluppo morale e saranno per
un computer artificialmente intelligente che avrei
Mi piace lasciarti con un’ultima finale
pensato che molti hanno detto che artificiale
l’intelligenza sarà l’ultima grande
l’invenzione umana lo fanno perché
l’intelligenza artificiale crea un tutto
nuova forma di scoperta creando un
tutta nuova forma di Discoverer se possiamo
accetta la possibilità che potrebbe
essere qualcosa di più intelligente di noi
ma potrebbe esserci qualcosa con a
mente più grande di noi con maggiore
capacità di intelligenza di noi
quindi il semplice fatto che il nostro cervello è
materia organica confinata tra due
le orecchie e un computer possono riempire un intero
stanza con silicio suggerirebbe non solo
la possibilità ma forse anche il
inevitabilità di un giorno un computer
essere più intelligenti di noi questo
apre la possibilità all’estremo
buono o estremo che differenza
tra i due è o meno questo
la coscienza ha una coscienza per il riposo
ha assicurato un’IA di tale intelligenza
fare delle scelte che riguardano le persone reali
persone che sono beneficiari o vittime
persone come Elaine alla fine artificiale
l’intelligenza potrebbe essere l’ultimo grande umano
invenzione assicuriamoci che sia l’ultima
grande invenzione umana per il giusto
ragioni grazie
[Applausi]
di Domenica sera Elaine stava attraversando
la strada con la sua bicicletta quando una macchina
si schiantò contro di lei a 40 miglia all’ora
portando a lesioni
alla fine ha causato la sua morte in
Finsbury Park un gruppo di persone raccolte
intorno a un musulmano che era collassato dopo
preghiera appena fuori da una moschea quando un’auto
guidato fuori strada tra la folla
uccidendo Makram Ali entrambi questi eventi
sono tragedie ma ce n’è una molto
importante differenza tra i due di
loro Makram fu ucciso da un uomo
motivato dall’odio qualcuno che semplicemente
volevo vedere alcuni musulmani morire
Elaine è stata uccisa da un computer ora di
corso quando possiamo facilmente descrivere il
azioni di Makram assassino come immorale o
anche il male ma come descriviamo il
azioni del killer di Elaine l’incidente
con ubers auto a guida autonoma era un
incidente è stato un problema tecnico qualcosa
accade estremamente raramente e dato il
fatto che i veicoli autonomi potrebbero
ridurre gli incidenti stradali fino a
Il 90 percento sembra valere ancora il rischio
dovremmo fermarci e chiederci come
ci sentiremmo se il computer avesse fatto un
scelta calcolata per colpire Elaine e se
è stata la decisione tra colpire
Elaine o colpire altri due pedoni
colpire Elaine o salvare i driver
la vita forse il computer sarebbe pari
scegli di colpire solo più pedoni
per salvare la vita dei driver a questo punto
stiamo definendo chiaramente le azioni come
morale o immorale, chiedo a queste domande
non per farti paura di attraversare il
strada ma per evidenziare i tanti complessi
e problemi spinosi che circondano le macchine
e la moralità non è un argomento
appartiene puramente ad un romanzo di Isaac Asimov
né è qualcosa che sarà
rilevante tra 30 anni da adesso è qui
oggi sta accadendo ora quindi noi
dovrebbe davvero parlare di
intelligenza artificiale e moralità
più spesso l’intelligenza artificiale è
si sta facendo strada in parti cruciali di
la nostra società al servizio di ruoli primari in
ospedali con militari di Mattila
attrezzatura autonoma che fa il magazzino
scelte nel 2010 un gruppo di ai ha portato
il mercato azionario scende del 9% in semplice
secondi e questo è solo l’inizio come AI
si intreccia in aspetti cruciali di
società prenderà decisioni cruciali
questo avrà grandi conseguenze e serie
ramificazioni morali e cosa c’è
inquietante su questo è così diverso
matematica o chimica che non abbiamo
regole ferree e veloci per la moralità
la moralità è un argomento polemico che è
qualcosa per cui molti di noi non sono d’accordo
da dove proviene o come si applica
a determinati gruppi ma ancora dobbiamo
superare queste differenze e trovarne
strategia per risolvere questi problemi
Credo che fondamentalmente si riduce a due
domande chiave prima come possiamo garantire
che una macchina capisce cosa è morale
in secondo luogo, come possiamo garantire che una macchina
si comporta moralmente ora quando risponde al
prima domanda sulla comprensione di molti
ovviamente guarderò alle teorie morali
poiché le teorie morali possono semplificare
moralità e modi importanti per esempio
utilitarismo che sostiene che
ciò che è più morale è ciò che massimizza
felicità per il maggior numero di
la gente ha dato il fatto che l’utilità è un
concetto ampiamente utilizzato in informatica
forse è un buon posto per iniziare ancora
altri potrebbero argomentare per una più basata sulle regole
approccio forse se possiamo specificare il
giusto numero di regole regole come no
raccontare bugie, quindi possiamo assicurarci che a
macchina se seguiranno quelle regole lo faranno
comportarsi moralmente lo direi
entrambi questi approcci sono alla fine
fuorviato per una ragione molto semplice l ‘
il mondo è fin troppo complesso se i nazisti
vieni a bussare alla tua porta e lo sei
ospitando e franco la maggior parte di noi vorrebbe
d’accordo la cosa più morale da fare è dire
una bugia e dire che lei non è lì, ma questo
viola una massima morale comune a no
dire bugie e anche in questo caso lo farebbe
violare la legge il problema è questo
Computer Sciences è in lotta con
moralità perché è piena di eccezioni
e queste eccezioni esplodono rapidamente
in problemi irrisolvibili
per fortuna era l’intelligenza artificiale
sviluppato come un modo per affrontare tale
problemi di risoluzione dei problemi in cui il
la gomma incontra la strada incredibile e
straordinario strumento di intelligenza artificiale
è l’apprendimento automatico della macchina
ci consente di non dettare più ogni
sposta e contrasta muove invece una macchina
può rispondere dinamicamente al suo
ambiente può imparare e migliorare
nel tempo questo è il motivo per cui in
giochi come andare a scacchi vediamo questo
successo vediamo alcune applicazioni in
gli scacchi vediamo un sacco di applicazioni e
vai nel gioco degli scacchi per esempio io
posso darti delle linee guida che posso dire che è
meglio non perdere la tua regina ma lì
saranno i momenti in cui perderai la tua regina
è l’unico modo per vincere la partita e il
lo stesso con la morale, posso dire che è meglio
non per dire una bugia, ma ci sarà
tempi in cui dire la bugia è il massimo
cosa morale farlo con la macchina
imparando possiamo migliorare con questi
cose e possiamo crescere e dinamicamente
rispondere ai problemi mentre si presentano
quindi se la moralità dovrebbe essere davvero
imparato e non necessariamente strutturato
in un quadro formale come andiamo
di fare che direi il migliore
il punto di partenza è guardare a noi stessi
come sviluppiamo moralmente come facciamo noi
diventare più persone morali e in definitiva
è un equilibrio tra due concorrenti
forza la natura e alimenta la natura nel
sentiamo che non veniamo in questo mondo
con le liste vuote entriamo in una genetica
predisposizioni reazioni emotive
gioca sempre ruoli molto importanti in
modellando come sviluppiamo moralmente
molti potrebbero dire che ciò suggerirebbe
la moralità è in qualche modo innatamente umana
non può essere trasferito ad un computer I
direi il contrario dell’evoluzione
è un processo algoritmico quindi possiamo
utilizzare algoritmi per sbloccare potenzialmente
Cosa c’è , usiamo algoritmi genetici
tutto il tempo tutto il tempo e la macchina
apprendimento che ci consente di ereditare il bene
idee e buone strategie nel tempo
forse il gruppo giusto di evolutivo
psicologi filosofi computer
gli scienziati potrebbero essere in grado di usarli
algoritmi per attingere ad alcuni dei
gemme nascoste di moralità incorporate all’interno
evoluzione dall’altra parte del
spettro abbiamo nutrimento con nutrimento
è ciò che apprendiamo dagli altri è il nostro
osservazione dai nostri genitori da
società un gruppo interessante di
algoritmi che mostrano la promessa qui è
chiamato apprendimento dell’apprendistato
apprendimento dell’apprendistato essenzialmente
inverte l’idea di un più comune
approccio chiamato apprendimento di rinforzo
osservare gli umani che svolgono un compito e
dal successo di questo compito
determinare quali azioni erano buone o
male a prescindere dai dettagli
gli algoritmi mostrano molte promesse e
potenzialmente sbloccando alcuni aspetti di
moralità naturalmente, questi inizierebbero
semplice e gradualmente crescere in complessità
più o meno nello stesso modo in cui i bambini imparano
concetti e modi semplici attraverso i premi
e punizione e mentre invecchiano
sono finalmente in grado di generalizzare
concetti più ampi di giustizia sociale
l’ apprendimento automatico è sicuramente il percorso
avanti e avere successo in questo
cercare di attingere e trasmettere
la moralità di un computer sarebbe un
incredibile risultato umano sarebbe
un incredibile risultato umano e
coinvolgerà tecnologie e
tecniche in cui non sono entrato oggi ma
tutto ciò sarebbe per non tutto
non servirebbe a nulla se non potessimo rispondere
quella seconda domanda che è come facciamo noi
assicurarsi che una macchina si comporti effettivamente
moralmente, naturalmente, molti diranno questo
il più facile delle due domande però
le macchine fanno automaticamente ciò che diciamo
loro non sono tenuti a fare
che bene questo è problematico per due
ragioni principali prima
le macchine non le diciamo di fare tutto
il tempo se hai mai lavorato su
qualcosa di complicato e ottenuto così
frustrato volevi solo scollegare il
il computer esce in piscina e lancia
il tuo computer in te sa esattamente cosa
Sto parlando
viene spesso chiamato errore dell’utente ma
fondamentalmente si riduce all’idea semplice
che le idee su un lato del
la tastiera non è la stessa delle idee
dall’altra parte della tastiera, se noi
lotta con la formattazione di un documento
immagina di sviluppare un obiettivo come
sofisticato come migliorare l’ economia
tale che ha una morale imprevista
conseguenze e ciò che è peggio è quello
gli obiettivi non esistono in modo isolato vengono
in conflitto tra loro e quelli
i conflitti creano complessità nel computer
la scienza potremmo vederlo nella forma di
permesso negato
ma nella moralità lo vediamo sempre
così c’è davvero un interessante
studio fatto da alcuni scienziati con
Studenti del Seminario Teologico di Princeton
è uno studio di Darlene Benson del 1973
lo scienziato ha preso questi studenti e ha chiesto
loro per fare un discorso sul bene
samaritano che è una storia di aiuto
altri hanno bisogno di mettere un ferito
persona tra il dormitorio degli studenti
e la posizione del discorso poi si
studia per vedere quanti studenti vorranno
fermati e aiuta l’infortunato
risulta il fattore più importante in
determinare se questi o no
gli studenti si fermavano era quanto tardi
erano nel 66% delle volte se erano in
tempo si fermerebbero mentre solo il 10% di
il tempo in cui erano in ritardo sarebbe
fermano ciò che sta succedendo qui chiaramente
c’è un conflitto obiettivo che ci sta succedendo
avere l’obiettivo di essere implicitamente buono a
sii morale e questi studenti hanno questo
obiettivo e incluso all’interno di quello sarebbe
aiutando questa persona ferita abbiamo questo
altro obiettivo più immediato che è quello di andare
e fai un discorso con un discorso registrato
moralità che suona un po ‘
familiare in questo momento e questo obiettivo arriva
in conflitto e comportamento immorale
si svolge ora nel contesto di artificiale
l’intelligenza che cosa significa questo bene
con l’ intelligenza artificiale possiamo
creare un eccellente modello morale a
macchina
capisce la moralità ma come facciamo a testare
quello che funzionerà molti lo hanno indicato
fuori che la difficoltà qui è noi
può fare test incredibili ma come lo sappiamo
se quei test catturano davvero tutto il
scenari in che misura è il mio atto di
testare in qualche modo influenzando i risultati
in qualche modo fondamentale questo è spesso
indicato come l’effetto dell’osservatore o
l’ effetto Hawthorne che è
essenzialmente l’idea che il mio atto di
il test sta influenzando in qualche modo il
partecipante in questo caso il computer
e quindi non è rappresentativo di
cosa succederebbe al di fuori del test
ora possiamo provare a gestire questo in due
potenziali modi in cui possiamo ingannare il computer
nel pensare che il computer che il
che l’esperimento si è fermato e che
le azioni del mondo reale stanno accadendo
in seguito questo ci consente di essere scienziati
studiare ciò che fa il computer ogni volta
si pensa che ci sia alcuna prova che si verificano
in alternativa possiamo fare il contrario di noi
può ingannare il computer nel pensare
che l’esperimento prosegue pubblicamente
infinito creando così una sorta di
ombrello morale un senso illusorio di
controllo morale in corso, un test costante
e allora forse questo controllo morale lo farà
gioca un ruolo importante ciò che è interessante
è quello dal punto di vista del computer
si crea un po ‘di un problema su
un senso il mio mondo è reale ma
sembra essere una simulazione e l’altra
è una simulazione ma sembra reale
se il mio pensiero che sto facendo un test è esso stesso un
parte di un test come faccio a sapere se sono
in una prova forse sono in una prova all’interno di un
testare all’interno di un test una sorta di russo
bambola metafisica di nidificazione della realtà in
quale non si può mai essere sicuri se questo è
un esperimento un test morale o meno e
questo gioca un ruolo importante questo
l’incertezza gioca un ruolo in
controllo è un potente meccanismo di
controllo morale e se non ci credi
io considero l’ equazione umana come facciamo noi
gli umani sanno se siamo in una morale
Sperimenta forse c’è un dio
categorizzando le nostre azioni in buone o
male
una forza karmica che fa qualcosa
simile o forse è anche un razionale
principio non lo sappiamo e non possiamo
dimostrare qualsiasi gruppo, giusto o sbagliato, quale
significa che ognuno di noi deve fare un
scelta personale una scelta di fede in uno
sistema di credenze o no e alla fine questo
la scelta gioca un ruolo davvero fondamentale
nelle decisioni che prendiamo nella
sviluppo morale che abbiamo la morale
scelte che seguono questo tipo di
l’esperienza inevitabilmente accadrà con a
computer che si sviluppa moralmente
almeno nel contesto di questa domanda di
è vero o è una simulazione, ma di più
probabilmente in molti altri contesti
il punto che sto cercando di fare qui di più
più di ogni altra cosa è questo quando pensiamo
sullo sviluppo morale specialmente in
contesto di intelligenza artificiale
non possiamo delimitare le questioni della scienza
da questioni di filosofia o religione
non possiamo separarli come irrilevanti
gli uni dagli altri, naturalmente, dalla matematica
e l’informatica sarà fondamentale e
assicurando che l’intelligenza artificiale
viene ad essere e poi è morale ma
anche la filosofia e la religione giocheranno
un ruolo importante nell’aiutare a definire
quella moralità e aiuta a definirlo
processo quindi dobbiamo avere un
approccio olistico a cui dobbiamo pensare
queste domande insieme perché
domande non scientifiche non conoscibili e
Dico inconoscibile con la K maiuscola
la ricerca inconoscibile è una parte necessaria di
sviluppo morale e saranno per
un computer artificialmente intelligente che avrei
Mi piace lasciarti con un’ultima finale
pensato che molti hanno detto che artificiale
l’intelligenza sarà l’ultima grande
l’invenzione umana lo fanno perché
l’intelligenza artificiale crea un tutto
nuova forma di scoperta creando un
tutta nuova forma di Discoverer se possiamo
accetta la possibilità che potrebbe
essere qualcosa di più intelligente di noi
ma potrebbe esserci qualcosa con a
mente più grande di noi con maggiore
capacità di intelligenza di noi
quindi il semplice fatto che il nostro cervello è
materia organica confinata tra due
le orecchie e un computer possono riempire un intero
stanza con silicio suggerirebbe non solo
la possibilità ma forse anche il
inevitabilità di un giorno un computer
essere più intelligenti di noi questo
apre la possibilità all’estremo
buono o estremo che differenza
tra i due è o meno questo
la coscienza ha una coscienza per il riposo
ha assicurato un’IA di tale intelligenza
fare delle scelte che riguardano le persone reali
persone che sono beneficiari o vittime
persone come Elaine alla fine artificiale
l’intelligenza potrebbe essere l’ultimo grande umano
invenzione assicuriamoci che sia l’ultima
grande invenzione umana per il giusto
ragioni grazie
[Applausi]
Please follow and like us: