Press "Enter" to skip to content

Machine Intelligence and the Future of Knowledge | Garrett Mindt | TEDxCEU


nell’ottobre 2015 alphago un apprendimento approfondito
rete che è stata addestrata a suonare il
il gioco da tavolo va a battere l’allora regnante
European go fan campione y5 a zero questo
era la prima volta che un computer
il programma aveva mai battuto un professionista
andare giocatore cinque mesi dopo un miglioramento
la versione di alphago andrebbe a giocare
l’ allora top player al mondo Lise
Aldo quattro a uno ora per mettere questo in
tipo di contesto del perché questo era così
impresa impressionante per un programma per computer
per realizzare il numero stimato di
possibili posizioni legali sul tabellone
è da qualche parte circa due volte dieci al
centosettanta possibilità di
dare un’idea di ciò che in realtà significa
questa è la quantità effettiva di zeri di
quante posizioni possibili possono essere imbarcate
può avere ora questo non è tanto su se
il programma può rappresentare esplicitamente tutto
di queste possibilità perché per
Ragioni computazionali vicine
impossibile ciò che è importante è che il
il programma è intuitivo
il gioco più o meno nello stesso modo in cui a
il giocatore professionista va ora alphago
è stato sviluppato utilizzando una combinazione di due
diversi metodi uno è supervisionato
imparare dove i programmatori prendono esperti
set di dati e questo è venuto in questo caso
i giochi giocano da maestro vanno giocatori
strategie sviluppate negli anni e
codificare le rappresentazioni della conoscenza in
il sistema e questo è usato in
congiunzione con l’apprendimento di rinforzo
qual è il metodo con cui il programma
è addestrato su passi successivi ottimali da
quelli già pre-programmati in
una serie di premi e punizioni ora
avanti veloce lo scorso dicembre
quelli che lavorano nella mente profonda in via di sviluppo
alphago ha creato un nuovo programma alphago
zero e questo usa qualcosa di leggermente
diverso prende una lavagna vuota
approccio così invece che esplicitamente
addestrando i prossimi passi nel gioco o
le migliori combinazioni e mosse possibili
l’ allenatore prende le regole base di
il gioco e insegnare al programma come
impara se stesso così come va
sviluppando le proprie strategie e ora in
la conclusione del loro articolo su questo
programma lo stato dell’uomo dell’autore
ho accumulato go conoscenza da
milioni di giochi giocati su migliaia
di anni che si distillano collettivamente in
modelli proverbi e libri e il
spazio di pochi giorni a partire da tabla rasa
una lavagna vuota
alphago zero è riuscito a riscoprire molto
della conoscenza del go e ​​del romanzo
strategie che forniscono nuove intuizioni
nel più vecchio dei giochi ora cosa fa
significa per un programma per computer
scopri la conoscenza o lo sviluppo
nuove strategie e come è che il
i programmatori stessi non sapevano come
questo è successo e questo ci porta davvero
al tema di ciò che voglio parlare con
voi ragazzi di oggi e questo è davvero
il ruolo di machine intelligence e
questi tipi di reti neurali profonde e
tipo di futuro della conoscenza e cosa
significa per noi sapere qualcosa
e ora non voglio davvero parlare
su ogni tipo di idea singolare simile
non c’è una cosa con cui voglio parlare
tu riguardo voglio motivare un modo di
pensando a questo pensando al
ruolo di questi tipi di artificiale
intelligenze nella nostra società e in che modo
produciamo conoscenza ora alla fine questo
è una questione di automazione e di esseri umani
abbiamo cercato di automatizzare la nostra
attività fin dall’inizio dell’essere umano
civiltà quando abbiamo faticato nel
campi che producono raccolti cerchiamo di farlo
a una scala più ampia quindi abbiamo delegato a
compito di essere suburbani abbastanza crudelmente ma noi
ha fatto e quella era un’automazione del
attività intelligente di campi arati
Avanti veloce e nell’Industriale
Rivoluzione abbiamo automatizzato il compito di
produzione di beni e lo abbiamo fatto a
ritmo vertiginoso che libera il tempo per gli umani
svolgere altre attività e poi
con l’ avvento dei computer noi
automatizzato il processo di aritmetica in
operazioni logiche al posto degli umani
dovendo calcolare laboriosamente a mano
queste difficili equazioni matematiche
possiamo automatizzarlo con i computer
attraverso una sinfonia di ronzio elettrico
e ora con intelligenza artificiale
abbiamo automatizzato le attività di risoluzione dei problemi a
un livello precedentemente inimmaginabile
ma voglio parlare dell’automazione
non solo dell’intelligenza come in
soluzione dei problemi e un compito a portata di mano ma
piuttosto l’automazione della conoscenza e
che cosa fa che sembrano ora voglio
rimanere agnostici sull’opportunità o meno
la conoscenza della macchina in questo modo è
inevitabile o se gli stimoli sono
già accadendo e io preferisco
porre il tipo di domanda ipotetica
Sono un filosofo, quindi siamo interessati a
questi tipi di domande ipotetiche a
prendi davvero una presa prima di quello che penso
stiamo già vedendo sta per verificarsi
e questo è davvero il ruolo di
questo tipo di prodotto artificialmente
conoscenza nella nostra società in generale ora
ci sono un paio di domande che io
voglio che tu tenga nella parte posteriore del tuo
testa mentre discuto di questi tipi di
reti neurali profonde e questo è davvero un
domanda su di te quindi come stai
sai cosa sai cosa significa
sapere qualcosa e questo potrebbe sembrare
tipo di un tipicamente confuso e
fastidiosa domanda filosofica perché
è una domanda filosofica ma
è qualcosa che penso che dobbiamo essere
chiedendoci in questi tipi di
situazioni e queste situazioni dove
non sono gli umani che creano conoscenza come
nel caso di alphago zero ha creato
nuova conoscenza delle ONG o ONG riscoperta
conoscenza e nuove strategie, quindi cosa?
significa per quel programma sapere
e ancora più importante come facciamo noi
incorporare questo tipo di conoscenza in
i nostri corpi di conoscenza quali sono i
quali sono il tipo di criteri che noi
necessario selezionare il tipo di conoscenza che
dovrebbe essere portato nella nostra società e
quello che non dovrebbe ora con le aste
alphago 0 e i suoi programmi alphago o
dire qualsiasi altra rete neurale profonda che
usa uno stile simile di architettura te
potrebbe chiedersi se il
programmatori e sviluppatori hanno creato questo
sistema allora non è davvero loro
prodotto la conoscenza e penso a
in questo momento è bene fare un passo
indietro e capire se gli sviluppatori potrebbero
traccia il tipo di ogni fase del sistema
preso per produrre quella conoscenza o per
venire a una sorta di decisione e il
la risposta è probabilmente sì è il
programmatori o sviluppatori in questo
scenario che ha prodotto la conoscenza ma
questo non è il caso di questi tipi di
sistemi come alphago zero come abbiamo visto
mente profonda e la conclusione della loro
dolore
/ stanno dicendo che è venuto fuori con un romanzo
strategie e ha riscoperto questo
conoscenza ma loro stessi non potevano
in realtà tenere traccia di ciò che è successo
quindi voglio davvero fare questa domanda
qual è il ruolo di quel tipo di
conoscenza nella nostra società ora c’è a
nome per questi tipi di sistemi questi
tipi di sistemi che sono molto complessi
e potrebbe avere un numero di tipi di nascosto
livelli e come vengono presi in una decisione
e quelli sono i sistemi blackbox ora
si chiamano sistemi blackbox
proprio perché non puoi incrinarli
aprire e tipo di scoprire come ogni passo
è stato preso per venire ad alcune uscite e
questo è importante perché questi sistemi
non sono stati costruiti con l’ idea di
la trasparenza in mente sono stati costruiti per
efficienza quindi non dovremmo esserlo
particolarmente sorpreso quando guardiamo
questi tipi di neurali molto complessi
reti e non riusciamo a capire esattamente
come è andata dalla fase uno alla fine a
il risultato finale fase due e penso
questo tipo di disconnessioni tra il
risultati di questi sistemi blackbox e
il nostro tipo di aspettative su ciò che noi
presumerebbe che questi sistemi avrebbero prodotto
tipo di crea questo jet di intelligence
ritardo o stiamo sempre giocando a recuperare il
conclusioni di questi davvero
sofisticate reti neurali profonde e
cosa ci saremmo aspettati dai risultati
essere e penso che questo jet dell’intelligence
ritardo tra il vero compito specifico e
ottimizzato efficiente risolvere i problemi che
questi tipi di sistemi fanno e più
tipo di ragioni generali e sfumate che
generalmente gli umani cercano e i nostri
le spiegazioni presentano davvero
sfida interessante per noi e come noi
vedere il ruolo della conoscenza nella nostra società
e specificamente prodotto artificialmente
conoscenza nella nostra società e penso
ciò che è per lo più importante anche per questo
è in situazioni con la vita reale
conseguenze
ora con alphago 0 se il programma
doveva fare una sorta di errore in
muovendo un pezzo non penso nessuno di noi
lo considererei un po ‘disastroso
impatti etici o devastanti generali
impatti sulla società, ma cosa succede quando
questi tipi di reti neurali profonde ottengono
applicato a situazioni
con conseguenze della vita reale dov’è
non solo un giudizio quantitativo su
dove posizionare un pezzo su una tavola ma
piuttosto qualitativo e noi siamo
già nel punto in cui questo
sta accadendo così questi tipi di scatola nera
i sistemi usano già un numero di
scenari di vita reale con la vita reale
conseguenze dicono ad esempio in
determinare se qualcuno lo farà
default sul loro prestito la probabilità
che lo farebbero o in caso di criminali
recidiva e determinazione della condanna
per casi particolari la probabilità che
qualcuno commetterà un crimine ora questo
ci porta ad un altro tipo di problema è
essere discusso in questo momento e questo è il
problema di bias dell’algoritmo quindi il problema
dei set di dati stessi sono di parte
perché gli umani raccolgono dati e noi abbiamo
pregiudizi che non possiamo controllare per e
questi risultati dicono nel caso del
recidiva criminale applicandoli in profondità
reti neurali hanno trovato che alcuni di
questi sistemi hanno pregiudizi razziali ora questo
è una situazione in cui c’è vita reale
conseguenze una situazione in cui non lo è
solo un giudizio quantitativo ma a
qualitativa quella in cui la vita delle persone sono
impattato e veramente significativo e
modo importante e questo evidenzia anche
un altro problema e questo è il tipo di
disconnettersi tra le nostre motivazioni
nell’usare questi programmi per
efficienza e senziente in prova
condanna o le nostre motivazioni ad essere di più
equo e giusto ma le motivazioni
di questi sistemi non corrispondenti a quelli di
proprio noi siamo nel caso di un criminale
recidiva e verosimiglianza a qualcuno
Sarò io commettere un crimine che sono stati
trovato per avere pregiudizi razziali e questo è un
risultato ingiusto o ingiusto di questi
programmi e dobbiamo iniziare a pensare
su come quelle motivazioni e le nostre
partita o come farli abbinare ora
c’è una specie di problema che penso
evidenzia questo davvero bene quel tipo di
inserirsi nella sfera popolare
ed è questo il problema Sharlee che non sono
certo se qualcuno di voi ha sentito parlare di questo
prima che io penso che era sul buon posto
in alcuni punti
beh, il problema del carrello è questa immagine
che c’è un treno tipo di barrel
fuori controllo e su quei binari del treno
ci sono cinque persone legate ora
in piedi vicino a una leva
che se si esegue il polling si cambierà il
tiene traccia del treno che corre evitando quelli
cinque persone ora ecco il problema su
quel treno tracce che è possibile passare a
c’è una persona legata, quindi la tua scelta
è lasciare che il treno continui sulla sua
modo e uccidi cinque persone innocenti legate
in pista o tirando volontariamente il
leva e condanna una persona a a
destino orribile ora questo è un duro
decisione etica e in quella situazione
spero che agiresti anche tu
scegliere di non tirare la traccia o tirare il
leva per qualsiasi motivo o si vorrebbe
scegli di salvare cinque persone e condanna
una persona a morte ora più importante
per questa discussione per quello che siamo
parlando di oggi come vorresti
effettivamente venire a quella decisione come sarebbe
tu sai quale decisione prendere e io
pensa a riflettere sulla nostra e di
processo decisionale e come siamo arrivati a questo
ci dà indizi dove dovremmo aspettarci
fuori da queste neurali profonde molto complesse
le reti per uno dicono che tiri la leva
si potrebbe accedere a tutte le diverse fasi
che ti ha portato a quel punto perché lo faresti
tirare la leva o non tirare la leva
potrebbe anche offrire una sorta di
giustificare qualche motivo per cui pensi
è meglio condannarlo intenzionalmente
persona a morte mentre sta lasciando il fuoco
salvando cinque altri o viceversa
potresti anche offrire una sorta di
motivazioni e questo è il tipo di
interessante quindi potremmo dire in a
situazione ero motivato a salvare come
molte vite possibili, quindi ho deciso di farlo
tira quella leva anche se ciò significava
uccidere un umano su quella pista ma per
tutto quello che sai che una persona sul
traccia o per quello che sappiamo era il tuo mortale
il nemico e le tue motivazioni non lo erano
in particolare solo perché volevi
quella persona morirà alla fine ma la
il punto è che sei in grado di accedere
e giustificare e dare ragioni per il tuo
motivazioni in questa situazione e io
pensa di sapere come questo
la tecnologia sta andando nel modo in cui
le reti neurali vengono applicate al nostro
vita in generale questi sono una sorta di
le situazioni che emergono dicono nel
caso di auto senza conducente dove potrebbe
essere offerto con due scelte sgradevoli
come nel problema del carrello e ha
prendere una decisione
e dovremmo aspettarci che faccia un
decisione e falla diventare quella giusta
dovremmo anche pensare che richieda più di
questo dovremmo esigere che ne abbia un po ‘
capacità di non solo accedere ai propri passi
e gli Stati giustificano la sua decisione e
offrire qualche indicazione delle motivazioni
di come è arrivata a quella decisione proprio come
lo faremmo se ti trovassi in quella situazione
e penso davvero che questo ci porti al
punto di esigere una sorta di criteri
per conoscenza e questi tipi di
sistemi artificiali e questo è davvero
il modo di pensare che voglio
impressionare su di te è che abbiamo bisogno di
inizia a pensare a come valutiamo
conoscenza e queste profondità molto complesse
reti neurali ora voglio dare sort
di un avvertimento
ricorda che questo era ipotetico
domanda all’inizio a tipo di
motivare a pensare a cosa significa
produrre artificialmente conoscenza in questo
modo
conoscenza artificiale o macchina
la conoscenza in questo senso è probabilmente a
molto lontano
alphago zero ci dà alcune indicazioni
che gli stimoli stanno già avvenendo
e penso che questo sia il momento perfetto per
inizia a fare queste domande per tipo
anticipare la curva su ciò che significa
per macchine per produrre conoscenza in
in questo modo, ma è un compito difficile
non c’è niente di facile da realizzare
questo quindi penso che sarà gentile
di tutte le mani sul ponte e ora per le persone
in generale dicono le persone che non lo sono
sviluppando questi tipi di sistemi che
non stanno guardando il filosofico
implicazioni è ancora importante
ci poniamo la domanda su cosa noi
dovrebbe aspettarsi senza artificio
intelligenza e conoscenza della macchina in
in questo modo perché ha un impatto sul nostro
vive come abbiamo già visto con quello che è
applicato ai casi di inadempimento in corso
prestiti o recidiva criminale o in questi
situazioni etiche come un’ipotetica
problema del carrello questi hanno vita reale
conseguenze e impatti sulla nostra società
e questo riguarda tutti noi, quindi spero
che dopo oggi ti ho motivato
abbastanza per iniziare a pensare a questi
preoccupazioni di intelligenza artificiale e il
futuro della conoscenza grazie
tu
[Applausi]
Please follow and like us: