A Cooperative Path to Artificial Intelligence | Michael Littman | TEDxBoston

[Musica]
Mi piacerebbe parlarti dei miei figli no
solo perché sono un papà orgoglioso ma anche
perché penso alle loro prime esperienze
fornire una prospettiva interessante
i diversi modi in cui abbiamo pensato
sulla creazione di sistemi intelligenti così così
Max quando era un bambino abbiamo deciso di farlo
indica che era abbastanza grande per diplomarsi
dalla sua culla a un letto da ragazzo così noi
Scambiato il presepe in cui abbiamo messo il letto
lo abbiamo messo a dormire nella culla e il
mattina dopo ha chiamato per noi a chiedere a noi
per te sai portarlo fuori dal letto così
che potesse iniziare la sua giornata e così noi
è entrato e gli abbiamo spiegato okay
guarda come funziona un letto
sei solo questo molti pollici fuori il
il pavimento appena siediti sul letto metti il ​​tuo
i piedi sul pavimento si sta bene ad andare così
non abbiamo mai dovuto dirglielo di nuovo, ma è così
non è stato qualcosa su cui è venuto fuori
il suo e questo era un po ‘tipico
proprietà di Max che avrebbe seguito
regole in alcuni casi regole molto complesse
ma tendeva a non scoprire le regole
da solo ora si contrappone a Molly
conosci Molly quando Molly era piccola
a un certo punto l’ abbiamo appena trovata a vagare
al mattino intorno al tutto
l’appartamento in cui si era trovata in qualche modo lei
piccolo piccolo corpo sopra la barriera del
la culla nella stanza uscì dalla porta
in qualche modo e stava solo andando su di lei
affari a che punto abbiamo deciso bene
beh credo che sia pronta per una ragazza grande
letto e che era una specie di proprietà di
Molly abbastanza spesso cosa avrebbe fatto
Tende a fare è creare le sue regole lei
guarderebbe l’ambiente capire
i modelli che giravano e
deciso per se stessa cosa fare e questo
è stato bello questo è stato molto potente che abbiamo avuto
c’era meno che dovessimo dirglielo
su cosa fare d’altro canto
ha fatto la sua palla un po ‘non in ordine così
se volevamo che lei facesse qualcosa era
difficile dirle cosa fare perché
lei aveva già avuto una sua idea
quello che doveva essere fatto e così questi stessi
le descrizioni si applicano in realtà ai due
i modi principali per far funzionare i sistemi di intelligenza artificiale
i termini di physis sono una buona vecchia AI
è quando costruiamo sistemi intelligenti con
programmatori persone scrivendo un sacco di
regole che danno loro il sistema e poi
avendo il sistema fare inferenza e
risolvere i problemi per utilizzare effettivamente quelli
regole per decidere cosa fare in contrasto
l’apprendimento automatico è un metodo per
creare intelligente
sistemi in cui ciò che facciamo è creare un
programma e poi buttiamo tonnellate e tonnellate
e tonnellate di dati su di esso a quel punto
estrae i modelli se trova
regolarità in quei dati e poi
applica ciò che ha imparato a risolvere il
problema che è stato originariamente stabilito
per risolvere e questi sono entrambi molto
modi potenti e molto molto utili di
risolvere i problemi ma voglio discutere
che manca ancora qualcosa
c’è ancora qualcosa in questi
in realtà non ci ottenere tutto il tragitto
e per cercare di ottenere questa idea
io ti do uno scenario, diciamo così
tu quello che ti piacerebbe davvero nella tua vita
è avere un robot che ti porterà
il caffè al mattino ora lo uso
esempio in particolare perché ho
ho visto molti film e sono carina
certo che ciò che Hollywood vuole che facciamo
è fare robot che ci portano il caffè
al mattino ogni volta che c’è un film
con un inventore in esso se è di nuovo
la grande avventura del futuro o del pee-wee
c’è sempre un inventore, in fondo
l’inventore sta inventando sempre modi di
portandoci il caffè la mattina così
quindi presumo che sia quello che siamo qui
per come i creatori di sistemi di intelligenza artificiale e accetto
questa responsabilità, quindi diciamo così
questo è quello che vogliamo fare vogliamo arrivare
tu il tuo caffè la mattina, così tu
decido ok questo è quello che devo fare io sono
Vado a creare un tale robot
sistema la prima cosa che realizzi è
che ti servirà una specie di
robot fisico, quindi vai al tuo
negozio di robot domestici locali e da tutti
diversi robot disponibili
decidono di scegliere uno fuori e diciamo yum
questo è un bel robot io lo chiamerò
Jeff e io lo porteremo a casa mia così
vai a casa con Jeff e ora Jeff è
pronto ad aiutarti ma Jeff non lo sa
quello che vuoi e così ora devi
creare un qualche tipo di programma un qualche tipo di
Sistema IA che guiderà Jeff a
risolvi il problema che vuoi risolvere
che ti sta prendendo il caffè così tu
dire una persona ngo5 quasi io sono
creerò una buona IA antiquata
Sistema sarò scrivere un programma che
il robot seguirà e seguirà
quel programma risolverà il mio problema e
quello che scopri anche molto presto
anche se sei un grande programmatore
la programmazione di robot è in realtà davvero
diverso dalla programmazione di altri tipi
dei sistemi è molto complicato
devono gestire un sacco di angoli strani
casi in cui i programmi diventano essi stessi
molto molto complesso molto difficile da
mantenere così forse ti senti frustrato
sei come se sapessi cosa non più con
il go fie ho intenzione di passare
– oltre all’apprendimento automatico ho sentito
è molto bello, lo scopri bene
subito questo sembra davvero
essere molto meglio invece di dover
dire al robot cosa fare in ogni regalo
data la situazione possibile devi
definire una funzione obiettivo si deve
definire quali sono le regole che dovrebbe
prova a seguire e le regole sei tu
dovrei avere il caffè in alcuni
punto al mattino non dovresti rompere
qualsiasi tazza sulla strada per farlo e non farlo
fai troppo rumore quando stai facendo
caffè perché questo mi sveglia
e puoi definirlo come una serie di
tipo di costi e poi dici al
grande robot questo è questi sono i tuoi
le istruzioni ora rendono così e ciò che tu
scoprire è che anche se è iniziato
via come una cosa piuttosto facile dal tuo
prospettiva è ancora carina
frustrante perché il robot no
capisci tutto ciò che ha istantaneamente
per imparare e quello che trovi è in alcuni
punta il robot che conosci settimane dopo
dopo che hai aspettato il tuo
il caffè il robot lo ha scoperto
sta vagando per la casa, forse
non sa di tazze da caffè ma è
ha una pianta in vaso e non è davvero
portare il caffè nella tua camera da letto
È una specie di appendere fuori nella stanza da bagno
per qualche ragione con un gatto e non lo è
anche al tuo gatto piace quello che sta succedendo
questo tu conosci il tuo paziente fino a te
attendere qualche settimana dopo il robot
sta diventando dirà meglio che ha un
tazza di caffè ora ed è in cucina
in modo che sembra rilevante ancora ottenuto che
gatto però
quindi sei diventato frustrato e
probabilmente cosa faresti probabilmente cosa
Lo farei in quella situazione è provare a
intervenire in qualche modo è come si
sarebbe bello se potesse solo
inventare spontaneamente tutte le cose che
Avevo bisogno di inventare ma avrebbe salvato un
molto tempo se potessi dirti cosa
Volevo che lo facesse
e così questa è l’essenza dell’idea
che voglio proporre la nozione di
intelligenza artificiale cooperativa
l’IA cooperativa dovrebbe esserci
i punti di forza degli altri due modi di
creando sistemi di intelligenza artificiale
come l’apprendimento automatico è incarnata in
il mondo il robot è nel mondo
sperimentare le cose e può fondare
le sue esperienze nei compiti che è
in realtà cercando di eseguire ma come andare
Noi come programmatori siamo come noi
le persone nel sistema arrivano effettivamente
definire il compito che vogliamo da trasportare
fuori così possiamo aiutare il sistema a fare cosa
dovrebbe fare per aiutarci così di base
l’idea qui è che l’allenatore umano il
la persona diventa davvero molto centrale
componente nel
la creazione del sistema di intelligenza artificiale e quello che il
la persona che sta facendo sta fornendo feedback
comportamento desiderabile che la persona sta guidando
l’attenzione degli studenti così di tutto il
zilioni di cose che potrebbe pagare
attenzione ad esso presta attenzione alla
roba che conta e poi finalmente il
l’istruttore umano ha l’opportunità di
dare al robot certi tipi di
esperienze in un certo tipo di ordine
che aiuta a costruire il concettuale
struttura che sta andando ad avere bisogno di
risolvi il problema e quella parte penso
è veramente pulito e molto
sottovalutato nel campo in modo lasciatemi
concentrati su quell’idea un po ‘così
quando stiamo addestrando un robot in questo
modello lo stiamo presentando con una serie
di compiti e quelle attività devono essere
selezionato in un certo modo l’apprendimento
le sfide dovrebbero essere introdotte in modo che
non sono né troppo grandi di un passo e
quindi potrebbe essere troppo difficile da risolvere
per il sistema né troppo piccolo di un passo
vale a dire non fare abbastanza
progredire verso ciò che sei
cercando di insegnare i compiti stessi
devi sapere che sei rilevante e
non ambiguo e utile quindi il robot
dovrebbe prestare attenzione a cosa
lo stai dicendo e alla fine se
queste cose funzionano la competenza del
il sistema robotico viene dal salire
questa scala di competenza risolvendo
ciascuno dei singoli compiti che tu
impostato per il robot che otterrà
meglio a che cosa è che si suppone
per fare ora lo chiamo la teoria del portale
di intelligenza è forse passato
alcuni altri nomi oh ok così Jeff è
sottolineando che in effetti il
psicologi e l’educazione di Pirro sanno
questo come la zona dello sviluppo prossimale
l’ idea che tu insegni sempre a
un po ‘al di fuori della corrente
competenza dello studente ora non l’ho fatto
conosci quel termine quando parto per primo
iniziato a lavorare su questo non ho speso un
molto tempo a leggere la didattica
letteratura che probabilmente dovrei avere
in effetti stavo passando un sacco di tempo
giocare ai videogiochi che forse io
non dovrebbe avere un portale se non lo sai
a riguardo è un videogioco che è davvero
fantastico e sto per dirti un po ‘
un po ‘ perché penso che sia
effettivamente utile in questo particolare
context so portal è una prima persona
sparatutto ma non sparare proiettili
non stai uccidendo le cose che sei
effettivamente sparando porte alle superfici
quando quelle porte esistono effettivamente
collega i punti nello spazio e ti lascia
passare attraverso di loro quindi il nome del portale
è un po ‘difficile da vedere in
punto di vista in prima persona quindi lasciami solo
mostrarti una delle sfide in a
modo schematico così qui sei nel
mondo che cerca di uscire dal mondo
cercando di arrivare al grande pulsante rosso
che ti lascerà uscire e cosa
si nota molto rapidamente è che il
Riponi la barriera prima che il pulsante sia a
un po ‘troppo difficile da scalare un po’
un po ‘troppo alto
ma quello che hai imparato nel corso di
una serie di livelli è che tu hai questo
portal gun e puoi usarlo per sparare
porte alle cose e di fatto se tu
spara una porta dove sei in piedi
e uno vicino al pulsante quei due
i luoghi nello spazio diventano connessi e
allora tutto ciò che devi fare è attraversarlo
uno di loro e tu appari l’altro
uno e arrivi dove stai andando così
questo è in realtà davvero un bel trucchetto che
sarebbe molto divertente se potessimo farlo
il mondo reale ma in questo artificiale
mondo puoi farlo totalmente e tu
bisogno di questo per essere in grado di risolvere il
problemi che vengono posti e questo non lo è
l’unico modo per usare un portale è lì
altri modi per utilizzare i portali quindi lasciatemi dare
un altro esempio quindi prendiamo il
lo stesso scenario eccetto il muro successivo
il pulsante è sparito, quindi non puoi sparare
un portale lì non puoi uscire dopo
al bottone cosa farai?
ciò che accade è i progettisti del
il gioco ha creato una serie di livelli
che presenta tutte le idee che sei
avrò bisogno e ti lascerò semplicemente
il vantaggio di mettere insieme queste idee
per risolvere il problema e cosa tu
renditi conto quando pensi a questo per a
mentre è aspettare un secondo se metto un portale
sul pavimento e uno sul muro alto
sopra di me e poi saltare giù dallo scaffale
nel buco volerò fuori dal
altro buco con lo stesso slancio che io
è andato nella buca saltando sopra il
sporgenza e atterraggio sul pulsante tada tutti
giusto quindi questo è un trucco davvero accurato e
ancora non succede così in
mondo reale ma in questo mondo artificiale
si arriva a imparare a utilizzare questi
particolari tipi di strumenti e il gioco
i designer ti insegnano questo e creano
questa competenza in te con l’ introduzione
in questa serie di livelli è davvero
un’idea molto bella ed è molto
simile alle cose che potresti pensare
di fare nel mondo reale e in modo
per esempio immaginiamo che tu abbia
un cane se vuoi che il cane pulisca
i suoi giocattoli se voi ragazzi se andate
online e cercare quello come un compito
troverai le istruzioni per le cose
che devi insegnare al cane
livelli del portale che è necessario esporre
il cane per farlo risolvere questo compito
non è questione di tenere semplicemente un
trattare e dire ripulire i tuoi giocattoli
giusti devi avere il tipo di cane
quel punto succede la stessa cosa con dire
insegnare a un bambino a nuotare che non vuoi
prendi un bambino e buttalo dentro
l’oceano è così che mio padre mi ha insegnato
cugino a nuotare e non è raccomandato
davvero quello che vuoi fare è lavorare fino a
in una serie di sfide e così via
di nuovo sono andato online e questi sono i
istruzioni per imparare a nuotare se tu
vuoi imparare di nuovo la matematica avanzata
da cui vuoi iniziare e accumulare
lì e non è solo per i bambini o
animali
se vuoi diventare un CEO puoi andare
online e nella wiki come ti dice semplicemente
come farlo c’è una serie di livelli
ad esso come i livelli del portale e ognuno è
sai relativamente facile dato a quelli
sotto e alla fine ci vediamo ora io
non ho provato questo fuori ma io te
so che sono tentato ad un certo punto, quindi
prendiamo questa idea e riportala indietro
al problema di portare il caffè
perché conosci quegli altri problemi
non siamo così importanti così
problema del caffè per risolvere il problema di
il robot che porta il caffè una cosa
deve essere in grado di fare è
riconosci la tua macchina da caffè
macchina per il caffè e quindi questo è questo può essere
istituito come un problema di apprendimento supervisionato
l’apprendimento così supervisionato è la macchina
problema di apprendimento di essere in grado di
riconoscere i modelli e classificare le cose
come esempi positivi o negativi
di un concetto di dare così se voglio
addestrare il mio robot con l’apprendimento supervisionato
quello di cui ho bisogno è un gigantesco database di
immagini la maggior parte delle quali etichetto come non il
macchina da caffè e alcuni dei quali etichetta
come macchina da caffè e poi lo farebbe
passare attraverso questi dati e e
elaborare un concetto che sarebbe corretto
macchine da caffè separate da non caffè
macchine e questo è effettivamente un problema
questo è abbastanza ben risolto oggi così
le reti neurali convoluzionali sono molto
potente strumento computazionale che se tu
scaricare tonnellate di dati su di loro in questo modo
probabilmente imparerà a riconoscere il caffè
macchine e se ti apri , sai
il contenitore e guarda dentro per vedere
quello che stanno facendo sono fondamentalmente
scoprire i livelli del portale in modo tale
questi sistemi effettivamente riconoscono complessi
oggetti è riconoscendo le linee rette
e usando quello per riconoscere le linee curve
riconoscere le trame da riconoscere
parti dell’oggetto e in definitiva riconoscere
gli oggetti che ti interessano
che è davvero una specie di incredibile e molto
potente ora potresti essere tentato di
questo punto di pensare va bene, questo è
grande questo è un problema risolto nulla
che voglio solo avere abbastanza dati
e, applicandolo, risulta comunque
che abbiamo conosciuto dagli anni ’90 che è
un problema computazionalmente intrattabile a
treno reti neurali o studenti macchina in
generale nel peggiore dei casi intendo un sacco di
problemi che risolvono davvero bene ma
altri si sa che sono la lotta andando
su di esso si scopre il problema se tu potessi
risolverlo efficacemente potresti usarlo
stesso sistema per rompere i codici di crittografia
come il tipo di cose che proteggono
i nostri soldi nelle banche, così siamo
aspettavo almeno i banchieri, credo
mi aspetto che sia difficile
problema e improbabile che sia uno che noi
potrebbe risolvere bene i miei studenti e io ho
capito è quello in effetti
tu come insegnante puoi abbattere il
problema di apprendimento nei livelli del portale se
potrai effettivamente allenare qualsiasi compito
non importa quanto sia complicata la sua in un tale
in modo che lo studente non debba mai farlo
lavorare troppo duramente per ciascuno dei livelli
risolve sono semplici combinazioni di
cose che ha già visto funziona
per l’apprendimento supervisionato risulta
funziona anche per l’apprendimento di rinforzo
quale è il problema di in realtà
seguendo un percorso per raggiungere un obiettivo
eseguire una sequenza di comandi nel
mondo – in questo caso particolare vai da
il caricabatterie alla cucina per il mio
camera da letto per consegnare il caffè a questo problema
è anche intrattabile per un completamente
sistema autonomo, diamo solo il
compito che dici di andare per quello che sta succedendo
prendere essenzialmente per sempre ma possiamo
scomposizione in problemi più piccoli e
possiamo risolverlo in questo modo non è facile
sapere come scomposizione ma ci
è una comunità di scienziati che pensano
a questo proposito gli analisti del comportamento
queste sono le persone che pensano a come
addestrare gli animali come si allena a
pollo come addestrare un cane come si fa
alleni un ippopotamo e cosa
sono quello che fanno è che insegnano
gente come rompere compiti complicati
in pezzi più piccoli e uno dei
sfida i problemi che daranno è
ok, prepara un pollo per camminare a
figura otto e si scopre che è
in realtà non così difficile se si rompe il
problema giù nel modo giusto così il mio
colleghi e io stavamo leggendo su questo
e ho pensato che questo è davvero incredibile noi
dovrebbe farlo totalmente con un robot così
abbiamo costruito un robot che potresti dare
feedback positivi e negativi a come a
pollo e gli abbiamo dato le cose per camminare
in giro in una figura-otto e addestrato
proprio come fanno gli analisti del comportamento
ci direbbe e ha funzionato abbiamo ottenuto un
robot che potremmo poi correre in
una figura otto era veramente pulito era
quasi come se i robot stessero seguendo
i polli camminano così questa nozione di
l’AI cooperativa per me è un molto
potente idea che è davvero il nostro meglio
spero di creare sistemi intelligenti e
Penso che una delle ragioni per cui io sia così
ottimista su questo come un percorso in avanti
è perché riconosce un importante
fatto di intelligenza che penso sia
sottovalutato e questo è il
sistema di intelligence che conosciamo
la maggior parte riguarda le persone che non inventiamo
non risolviamo i problemi di SuperDuper
sempre da soli, se abbiamo bisogno di usare
qualcosa di complesso come il linguaggio noi
inventare insieme il linguaggio se necessario
usa la matematica avanzata come il calcolo
impariamo questo insieme anche il
inventori di calcolo
non l’ho inventato completamente da solo
giusto così sia Newton che Leibnitz
ha creato il calcolo intorno allo stesso tempo
e allo stesso modo, ma lo erano
entrambi sulla base delle notazioni che erano
disponibile al momento però il
problemi che la gente pensava fossero
interessanti i concetti che erano
disponibili e hanno escogitato
qualcosa di molto simile tra loro in
Infatti Newton ha anche detto se posso vederlo
molto più di altri è perché
Sono sulle spalle dei giganti
sto ricevendo beneficio dal lavoro
con altre persone, quindi ci arriviamo davvero
essere più intelligenti lavorando insieme in questo
ma l’intelligenza non è l’unica cosa
ci interessa ciò che stiamo costruendo AI
sistemi che vogliamo davvero che siano
utile, vogliamo che facciano ciò di cui abbiamo bisogno
loro da fare e questo approccio cooperativo
all’intelligenza artificiale è forse
problematico a tale riguardo è davvero
rimette a noi l’onere come insegnanti
insegnare al sistema le cose giuste che noi
non voglio che tutti i nostri robot crescano
per essere non conosco i robot razzisti di Twitter
perchè questo succede a volte e così tu
voglio evitarlo, quindi dobbiamo davvero
prestare attenzione a ciò che stiamo chiedendo al nostro
robot da fare, dobbiamo insegnarli bene
ma credo che i benefici di farlo sono
veramente importante bene nel breve periodo
avremo sistemi che sono di più
personalizzato a questo i problemi che
in realtà siamo di fronte a lungo termine
condividerà il mondo con
agenti intelligenti che ottengono questo tipo di
noi capiscono le cose che noi
capire che abbattere il mondo il
modo in cui abbattere la volontà del mondo
capiranno cosa stanno facendo, lo faranno
capisco cosa stiamo facendo e penso
questo è molto importante perché nel
in arrivo la rivoluzione dell’IA ognuno di noi ha un
ruolo importante da giocare non stiamo andando
stare seduti in disparte siamo
sta andando a mettere un po ‘ di noi stessi
in questi sistemi che sono così
influenzare potentemente le nostre vite
e il nostro futuro ringrazia molto
tu