Press "Enter" to skip to content

GOTO 2013 • Computing like the Brain: the Path to Machine Intelligence • Jeff Hawkins


è un po ‘ vero quello che ha detto che sono un
Sono un informatico troppo che ho usato per
essere un programmatore a tempo pieno molti anni fa
ma ho davvero avuto due amori nella mia vita
uno era mobile computing e l’altro
era il cervello e come funziona la neocorteccia
e in realtà volevo davvero spendere
quasi tutta la mia carriera lavorativa
neuroscienze ma l’ho trovato molto molto
difficile da fare vedrai perché forse in
un po ‘e così sono tornato
e ha lavorato nel mobile computing perché
questo era quello che potevo fare fino a
ho capito cosa volevo veramente fare
un po ‘ come una persona che vuole essere un
gli attori che attendono i tavoli non lo fanno perché
prima che ottengano un lavoro così ma per il
ultimi 12 15 anni o giù di lì sono stato
a tempo pieno anche nelle neuroscienze
ha avviato un’organizzazione non profit chiamata
il rosso per l’Istituto di Neuroscienze che ho corso
quello per molti anni quello era il
Istituto scientifico che è ora a
Università della California Berkeley così
Sono stato nel profondo delle neuroscienze per a
mentre così ho intenzione di parlare
calcolo come il cervello o come siamo
andando a costruire macchine intelligenti in modo da
mi sono dato più di 30 anni fa
me stesso due cose che davvero volevo
fare il primo è stato scoprire il
principi operativi del nuovo tuo
la corteccia ora non è l’intero cervello
non voglio iniziare non dico il
tutto il cervello so molto di tutti
parti ma la tua nuova corteccia è l’è
la grande cosa rugosa in cima è
circa l’ 80% del volume del cervello
ed è il luogo di tutta l’intelligenza
quindi sto parlando della mia neocorteccia di
parlare il tuo ascolta quando mi muovo
le mie mani e controllo le cose qui sono le mie
nuova la tua corteccia tutte le cose che consideriamo
intelligenza di alto livello all’interno del tuo
corteccia quindi dovremmo essere in grado di
capire come funziona questa cosa cosa
i principi su cui lavora sono solo un mucchio
di cellule non è magico e poi una volta
sei stato capace di fare ciò che dovresti
essere in grado di costruire sistemi su cui lavorare
quei principi e possiamo costruirli
in software e hardware così questo per me
sembrava il modo logico per andare su
costruire macchine intelligenti è quello di
capire cosa sia l’intelligente
macchina sappiamo come funziona e poi
capire come astrarre da quello
tuttavia questa non è stata una visione comune
e soprattutto all’inizio della mia carriera ho corso
in un sacco di resistenza su questo di meno
così ora ma è ancora è forse ancora
una visione minoritaria e voglio darti un
un po ‘ di
storia di intelligenza artificiale e
persone che ci hanno pensato e
influenzato per darti una prospettiva
da dove vengo e loro erano
andando a tuffarsi in alcuni dettagli reali
okay , torneremo indietro nel tempo adesso
e voglio parlare di altri modi in cui le persone
pensato per costruire intelligente
macchine di cui parleremo prima
un po ‘ di artificiale
l’intelligenza e io chiamo questo fielding
l’approccio senza neuroscienza che hanno
semplicemente ignorare completamente i cervelli
che potrebbe essere ok ma è così
tu vai su di esso e lei torna in
tempo e potresti creare al
inizio di questo a Alan Turing di
famosa di informatica Fame nel
1935 ha iniziato a scrivere su Universal
macchine che diventano la macchina di Turing
anche lui era molto interessato alla macchina
l’intelligenza nel 1950 scrisse il giornale
abbiamo introdotto il test di Turing che io
ha detto che la maggior parte di voi sa e ha messo
questo obiettivo è come dovremmo
costruire macchine che funzionano
identicamente agli umani che non potevamo
dire se fosse un essere umano o una macchina e
questa è la definizione di un intelligente
macchina che penso sia terribile
definizione perché possiamo costruire
macchine intelligenti con niente di simile
per niente umani, ma in qualche modo lo ha impostato
obiettivo e il campo di AI basato su
programmare i computer per raggiungere questo obiettivo
iniziato di nuovo in quei giorni e
ci sono stati nel corso degli anni molti molti
le principali iniziative di IA sono state alcune
alcuni di successo hanno fallito lì
era un grande in Giappone chiamato il quinto
il progetto di generazione di computer era un grande
fallimento
un sacco di progetti di intelligenza artificiale che abbiamo avuto di recente
la macchina guida di Google e Watson
battendo Jeopardy e così via sopra il
anni il bello di questo è quello
alcuni di questi hanno soluzioni davvero buone
Non avrò una macchina guida Google
Non so se lo vedi qui intorno
ma abbiamo visto dove vivo e basta
semplicemente fantastico voglio averne uno
il problema con loro è che lo sono
soluzioni specifiche per caste e
c’è un apprendimento limitato o no e
l’apprendimento è uno dei segni di chiamata di
l’intelligenza ci impara tutto il tempo
conoscere il mondo che non siamo
programmato per il mondo, impariamo come
il mondo funziona e così l’intelligenza artificiale ha una sorta di
è stato in molti modi tipo bloccato
non capisco davvero non è davvero
ci ha avvicinato a capire cosa
l’intelligenza è e come costruire
macchine che funzionano come gli umani
altra importante iniziativa potresti farlo
pensa alle reti neurali artificiali
e lo chiamo la neuroscienza minima
approccio anche se ha il nome neurale
La rete in esso non è davvero
le neuroscienze come tutto ciò che possiamo andare
di nuovo a questi due signori Warren
McCulloch e Walter Pitts questo è un divertimento
carta da rileggere nel 1943 dove loro
fondamentalmente sosteneva che i neuroni potessero essere
come porte logiche come ands ORS e nots
che i neuroni non sono affatto così
certo, ma se li hai agganciati
insieme in una rete di soli cucire design
potresti costruire qualsiasi tipo di logica
funzione tra cui un computer così c’è
alcune immagini dei neuroni che loro
postulato in quel documento e questo era
la prima idea di costruire un artificiale
rete neurale basata su artificiale
I neuroni questi ragazzi ottenere il credito per
che ora, oggi, quando ci pensiamo
reti neurali la maggior parte di esse sono basate
su un diverso tipo di modello neurale che ho
preso quello che si chiama a sai
sommatoria con una sorta di non lineare
funzione di soglia tipicamente mostrata in
quella foto lì, ma i veri neuroni
non sono affatto così, potrei dirtelo
un po ‘ più tardi che quelli
cose che la maggior parte è più artificiale
le reti neurali non sono i neuroni
Ho non sono come i neuroni reali a tutti
non puoi nemmeno chiudere e poi la strada
li agganciano insieme e questi
reti diverse non sono come sono
agganciato nel cervello così c’è
una grande disconnessione tra artificiale
reti neurali e ciò che è reale neurale
sembra il tessuto ma c’è stato un
numero di tecniche l’attuale caldo
Linea probabilmente avete sentito parlare molto di
è l’apprendimento profondo che è solo un
multistrato o tipo di perceptron e
questi sistemi sono piuttosto interessanti
sono buoni per certe cose che sono
buono per classificare la maggior parte delle persone che
utilizzare reti neurali artificiali li usano
per la classificazione e stanno imparando
sistemi che è un vero vantaggio rispetto al
intelligenza artificiale i lati negativi
sono molto limitati, non loro?
solo che non hanno rotto fuori alcuni molto
problemi di classificazione del modello di base
non c’è niente vicino a ciò che a
può essere umano o un topo o un gatto o una scimmia
fanno e non sono affatto come il cervello
Ho già detto di recente che c’è
stato un altro approccio che quale
in realtà uscendo da qui e in
L’Europa e il CERN in Svizzera è il
quello che chiamo la massima neuroscienza
approccio ora il miglior esempio questo è
il progetto del cervello umano che è un
tenta di modellare un modello umano intero
cervello da tutti questi livelli fino a loro
sulle molecole su tutto il corpo che
l’immagine della piccola rosetta nel mezzo è
tutti i principali scienziati su questo
progetto ti dice quanti ce ne sono
questo è un grandissimo miliardo di euro
è appena iniziato
il problema che ho con questo c’è
alcuni davvero potrebbero essere molto molto
utile ma non si basa su nessuno
tipo di teoria non c’è teoria qui
non c’è nessun tentativo di
capire cosa dovrebbe fare o come
lavora soprattutto per costruire un grande
simulatore e sperando che faccia qualcosa
interessante e non sono davvero
tentando di costruire macchine intelligenti
quindi non entrerà in quello
direzione a meno che non cambi
in modo significativo quindi questi sono una sorta di
sfondo che sta succedendo e che
ritorna al mio approccio conosci il
approccio che ho lavorato su di noi
in sostanza, inizia con il
principi nella nuova tua corteccia
capire come funziona e poi costruisci
macchine basate su questi principi questo
è il processo che attraversiamo iniziamo
con anatomia e fisiologia in grande
dettaglio Sono tanto un neuroscienziato quanto un
informatico forse più così noi
quindi sviluppare teorie su come il
la neocorteccia funziona , quindi li testiamo
teorie nel software implementiamo questo
roba e l’abbiamo testata contro
tutti i tipi di problemi e in definitiva
andrà in silicio e quello è
in realtà a partire effettivamente quest’anno e
Parlerò un po ‘di questo
per me sai che stiamo andando alla grande
progressi su questo potresti non essere a conoscenza
questo e questo è uno dei motivi per cui sono
qui per parlartene davvero bene
i progressi fatti e io tipo di vista
come oggi è un po ‘come essere dentro
questo decennio è come negli anni ’40 se vai
di nuovo negli anni ’40 nella storia dei computer
questo è solo quando le persone stanno iniziando a
costruire computer Turing van orman e
altre persone stavano appena iniziando a costruire
cose e alla fine degli anni ’40 tu
Ho avuto la manchester baby e tu hai avuto il
conosci tutti i diversi famosi presto
computer che sono stati costruiti e e nel
Negli anni ’50 hai davvero visto l’industria
off che è dove siamo in questo momento su
quello che considero essere i prossimi 50 anni
di tecnologia dell’informazione e c’è
molte persone entusiaste di questo
siamo dell’età molto embrionale di questo
cosa ma sta accadendo proprio al
momento e io sono qui per dirvi perché
il mio obiettivo ti dirò in questo momento il mio obiettivo
è quello di ottenere due o forse tre persone
in questa stanza che si eccita tanto
questo che stanno andando a che stanno andando a
rendere questa parte della loro carriera perché
sta andando essere molto molto eccitante è
cosa eccitante fare così il Nuovo
Corteccia di York , ne prenderò un po ‘
livello di dettaglio alla fine del discorso
Farò un salto indietro di nuovo in modo che sia andando ottenere
difficile se non si conosce alcuni di questi
termini ma
camminarci attentamente attraverso il
neocorteccia è questa grande cosa rugosa
in realtà lei bene se ho preso fuori
la tua testa e appiattisci è di circa
è grande quanto un grande tovagliolo da tavola
circa due millimetri di spessore è un
sistema di memoria non è un computer
non calcola nulla è memoria e
dall’archiviazione da cui provengono i pattern
i tuoi sensi questo è lo streaming di dati alti
velocità in streaming che sta cambiando
molto rapidamente in ordine di millisecondi da
la tua retina dalla tua coclea dalla tua
sensi somatici sulla tua pelle e il nuovo
la tua corteccia memorizza tali schemi in a
modo molto interessante e costruisce a
modello del mondo e che modella il
mondo da esso dice va bene dato il
gli input correnti possono fare previsioni
può rilevare le anomalie di qualcosa
cambiato quello che dovrebbe essere
può far sì che possa generare comportamenti
ora perché genera comportamenti se
in realtà è la maggior parte dei tuoi comportamenti
muovi i tuoi occhi e il tuo nella tua testa e
il tuo corpo quando tocco qualcosa che mi muovo
la mia mano su di esso così la maggior parte dei cambiamenti
nella sensazione che stai entrando nel
cervello o a causa dei tuoi stessi comportamenti
crei i cambiamenti brevettati in
modelli in larga misura no
completamente così quello che vorremmo dire è il
la neocorteccia impara un modello motorio sensoriale
del mondo impara come il sensoriale
i modelli cambiano in base alla corrente
input sensoriale nella propria uscita del motore
e cosa dovrebbe venire dopo e come
può stringere quelli insieme per fare
certe cose accadono lo faccio sembrare
molto molto semplice come questo in qualche modo
è molto molto semplice ma in
i dettagli possono diventare molto complicati
come va tutto bene ora sto andando a
ti dirò i sei principali sei principi di
che la nuova corteccia funziona e quindi
ci stiamo immergendo nei dettagli su tre di loro
quindi questo è il mio primo sei qui numero uno
è un sistema di apprendimento online online
l’apprendimento significa che non c’è un lotto
elaborazione non memorizzare dati e
guarda le statistiche e decidi
ciò che è interessante e ciò che non lo è
come la maggior parte dell’apprendimento automatico oggi fa ma
il cervello non arriva a fare quello che ha
per imparare continuamente ogni momento mai
si ferma e sai che non hai un
possibilità di tornare indietro e dire bene andiamo
ordinare tutti quei dati e figure
fuori ciò che è importante, quindi è online
sistema di apprendimento da streaming di dati e
è una parte importante dell’essere un
sistema di apprendimento adattivo che non puoi
davvero scambiarli la seconda cosa
è quel foglio di celle che 2 millimetri
foglio di spessore
è circa la dimensione di un tovagliolo per la cena
è in realtà organizzato in una gerarchia di
regioni così diverse parti di quel foglio
sono collegati insieme attraverso il bianco
importa in una gerarchia ora questo
la gerarchia non sembra che questo sia questo
un semplice disegno di cartone animato ma puoi farlo
è davvero una gerarchia di regioni
produzione della regione proiettando il
regione ora la cosa più sorprendente di
questo è incredibile ma c’è così tanto
prova che è incontrovertibile
è che tutte le regioni nella gerarchia
stanno praticamente facendo la stessa cosa
quasi identico c’è qualche piccolo
variazioni così le parti del tuo cervello
che stanno ascoltando e la festa delle piogge
che stanno vedendo e le parti del tuo
cervello di pensare sono i cervelli del partito
facendo la lingua se li guardi sotto
il microscopio sembra quasi
identici e ci sono prove che loro
stanno identificando
distribuire tutte le regioni nella gerarchia
e se hai cambiato il tuo nervo ottico e
il tuo nervo uditivo sarebbe il cervello
funzionano ancora abbiamo fatto questo sugli animali
come le donnole e così via quindi è un
cosa incredibile abbiamo bisogno di capire cosa
qualsiasi parte della corteccia di New York sta facendo
e questo ci dirà come tutto il
le regioni stanno facendo e quindi abbiamo dovuto
capire come funzionano in una gerarchia
così – la gerarchia delle regioni della memoria ora è così
non c’è molto da fare in ognuno
di queste regioni c’è molto da fare
nel tessuto ma nella memoria primaria
la funzione è la memoria di sequenza quando dico
memoria di sequenza intendo come quando
li memorizzi una melodia e che cosa
le note si susseguono nel tempo di punting
questa è la sequenza di memoria del modello e
l’ordine nel tempo è essenziale ora perché lo è
questo perché dico che è il più
componente importante della memoria del
la neocorteccia ben pensa a quello che serve
per riconoscere il mio discorso che sei
facendo si spera si spera che non sono
parlando troppo velocemente sì devi
hai dovuto imparare in cosa consistono queste parole
la lingua inglese suona come in tempo
e come sono le diverse variazioni
tempo e puoi prevedere le cose che potrei
dì di seguito e così via ed è la sequenza
memoria quando tocchi cose è il
stessa cosa sono i ricordi di sequenza
modella il tempo se mescoli il
l’ordine di quei modelli sarebbe
completamente su ciò che sei
facendo e anche visione e molte persone
pensa come oh è come una foto che prendo
un’immagine e analizzare non è vero il tuo
gli occhi si muovono costantemente
tre o quattro o cinque volte al secondo
con ogni Socata muovi la testa e
così via è un flusso in continuo cambiamento
dei dati ed è non solo non è
a caso il tuo cervello lo sta controllando
stream è una sequenza di pattern
e il tuo cervello costantemente crea
previsioni e infine la tua corteccia
sta generando molto del tuo comportamento no
tutto ma molto come il mio
discorso e quella è una sequenza di memoria come
bene sto riproducendo i modelli che io
ho imparato, pratico e storie
posso ripetere frasi che posso ripetere
frasi perché è memorizzato ed è un
schema che posso ricordare quindi è tutto
sulla memoria di sequenza non cento
per cento ma soprattutto e questa è la chiave per
svelando l’intera cosa alla fine quando
non sei finalmente il prossimo numero
quattro è se si guarda ovunque nel
cervello anche se non importa dove sei uguale
l’uscita dai sensori o da qualsiasi sezione
della neocorteccia si scopre che il
l’attività è scarsa solo un paio di
cento delle cellule sono molto attivi
abbastanza e la maggior parte di loro sono relativamente
inattivo
è una rappresentazione sparsa ora questo è
molto ben noto dalle neuroscienze
ma è in realtà molto molto
importante e si scopre che questo è
non un’opzione questo non è qualcosa che
il cervello fa quelle macchine intelligenti
non devo fare e capirò perché
che è sparso distribuito
rappresentazioni un altro molto sorprendente
cosa che è successo forse negli ultimi 15
anni o giù di lì siamo abituati a pensare che ci sia
parte della neocorteccia aveva un’uscita motore
con la sezione motore che era parte di
essenzialmente essenzialmente la produzione ora
sappi che non è vero ovunque tu guardi
nella neocorteccia ovunque abbiamo
abbiamo visto che ci sono entrambi sensoriali
e il motore ci sono i neuroni
generare un comportamento e ci sono i neuroni
che riconoscono i modelli così è
non come se ci fosse una regione motoria in un
regione sensoriale potresti vederlo dentro
alcuni libri di testo che ogni regione sta facendo
motore centrale che fa il nostro lavoro
Più facile
perché di nuovo stiamo cercando di capire
l’ aspetto motorio sensoriale e possiamo
capirlo in ogni regione e poi
finalmente c’è un meccanismo attentivo
che ti permette di partecipare a diversi
parti del flusso di input non ho intenzione
per parlare di più oggi che questi
sei principi sono entrambi necessari e
sufficiente per creare sia un intelligente
animale e una macchina intelligente
ci sono molte cose che potresti
ho sostenuto che non sono in questa lista
non mettere la lingua in questa lista non lo faccio
ho non vedo come avere un fisico
corpo anche ci sono un sacco di cose
non l’ho messo, ma tu conosci tutti
ogni mammifero ha nella tua corteccia e
ogni mammifero da un topo all’uomo ha
tutti questi sei principi operativi in
il loro cervello, così ancora una volta, il nostro obiettivo è
per capire questi principi come loro
lavoro possiamo costruire artificiale neurale
conosci la corteccia per fare vari tipi di
problemi di occupazione di cose diverse
ok ora sto andando a saltare in tre di
questi in una buona quantità di dettagli è
andando a sfidarti prima di te
la tua birra e poi puoi raccontarla tutta
vado cominciando da scarso
disturbi allora parleremo di
sequenza di memoria e poi parliamo
sull’apprendimento online questi sono i
parti capiamo il meglio che conosciamo
qualcosa sulle altre parti ma noi
queste sono le parti che capiamo meglio
sono le parti che abbiamo implementato oggi e
testato estensivamente quindi lasciatemi parlare
rappresentazioni distribuite sparse il
il modo migliore per capire sparse a stupide
rappresentazioni è un confronto a cosa
usiamo nei computer che a volte
chiamate rappresentazioni dense in a
computer prendiamo un certo numero di bit
forse un byte da 8 bit o 128 bit o 64
bit usiamo tutte le combinazioni di quelli
e zeri da tutti gli zeri a tutti e uno
esempio è come il codice ASCII e 8 bit
Codice ASCII c’è un allenatore per il
la lettera M è un gruppo di zeri e uno
i singoli bit non significano nulla se io
ha detto qual è il primo bit in un in
Codice ASCII è solo il primo bit
non ti dice niente
la lettera M, infatti, se ti mostrassi
che il colore non può dirmi cosa che
significa che è solo un arbitrario
incarico da un programmatore tempo fa I
non so chi l’ha fatto e se ne è uscito fuori
un codice ASCII nel cervello non è come
in questo modo a tutti nel cervello la radi
rivendicazioni distributive che usiamo
molti molti pezzi quindi perché diciamo che ti morso
può anche pensare neurone ok così un neurone è
se è attivo sarebbe uno e se
non è attivo sarebbe approssimativamente uno zero
puoi pensarci in questo modo e così tanti
migliaia o milioni di queste cose
andando avanti non puoi avere un piccolo
rappresentazione con pochi neuroni
devi averne molte migliaia prima
puoi fare qualcosa di interessante e tu
sempre la maggior parte di essi sono più zeri
tra le attività ce ne sono alcune così
tipicamente usiamo rappresentazioni che
sono circa il due percento attivi quindi se l’avessi
duemila pezzi di soldi come i miei discorsi
esempio qui oggi ne avrei quaranta
e il 1960 zera ora la cosa importante
ecco che ogni bit significa qualcosa
ha significato semantico ora deve essere
ho imparato che non è qualcosa che tu
assegnarlo deve essere appreso ma guarda
facciamo finta di poterlo assegnare e io
non farmi un esempio, quindi se volessi
rappresentare una lettera in uno spargolo
rappresentazione distributiva che potrei avere
bit per dire se è un pollo o
costante
Potrei avere i suoi bit dire come lo fa
suono come sono un suono e Oh suono e
il nostro suono è che ha un suono fricativo
o il suono acuto del suono SC ad esso
come è disegnato ha un mittente o
discendenti è aperto o chiuso dov’è
nell’alfabeto quali sono i significati
potrebbe avere e così via e quando voglio
rappresentare la cosa che sceglierei
40 migliori attributi per quella lettera così
la rappresentazione della cosa stessa
è la rappresentazione semantica che racconta
tu quello che questa cosa è che non devi
vai a cercarlo da qualche parte è nel
rappresentazione stessa non c’è ricerca
tavolo per questo tutto ora nel cervello
viene sempre appreso costantemente infatti
bene il modo in cui il cervello funziona , usiamo il
stesse celle più e più volte
il momento rappresenta qualcosa quindi a
insieme diverso di quelle cellule sono
in realtà rappresenta qualcos’altro in
diverse regioni e lo facciamo in due
diverse regioni del cervello, quindi questo
questa è l’idea di base e poi lì
sono alcune proprietà davvero interessanti
che viene fuori da questo uno dei primi
le proprietà è che puoi chiedere solo
confrontando due rappresentazioni nel vedere
se hanno questi bit nello stesso
celle di posizione attive al
allo stesso tempo possiamo dire che lo sono
semanticamente simile e come possiamo
dì oh questi questi condividono il seguente
attributo perché hanno lo stesso
bit attivi e questo non succederà
per caso se è se è spartano
rappresentazione che sarà significativa
ed è non è un evento casuale quindi
possiamo contare su di esso in modo che possiamo molto
confrontare rapidamente due cose e se due
le cose sono collegate semanticamente anche da
cinque bit o dieci bit sappiamo che è così
una significativa sovrapposizione semantica tra
loro ora se volessi memorizzare e
confrontare un’operazione di un computer comune e
dì ok ecco un modello che voglio
ricordalo e voglio vedere se è così
si è verificato di nuovo bene non salviamo in
a in qualche disco di memoria da qualche parte cosa
facciamo è solo salvare le posizioni del
dei bit attivi salviamo le posizioni
sono così se ne avessi 40 attivi
Avrei un indice di 40 diversi
posizioni e ora devo solo guardare
vedere se il nuovo modello ne ha uno nel
stessa posizione e se lo fa dico che è
lo stesso modello perché sono tutti
sparse stanno bene nello scarso
e dal modo in cui è un po ‘sbagliato
è ancora molto vicino ora possiamo andare
uno migliore che posso dire che cosa se non lascio
tu metti la doga in tutti i luoghi
bit ma solo un sottoinsieme come dieci di essi
10 dei 40 e tu dici bene che posso fare
loro
bistecca perché potrei averne dieci
giusto, ma l’altro 30 sarebbe
diverso che siamo molto molto improbabili
statisticamente ma anche se si fosse verificato
sarebbe un errore per
qualcosa che è semanticamente simile
e quindi non è un errore sbagliato in realtà
questa è la genesi della generalizzazione
come il cervello generalizza perché lo è
costantemente a che fare con nuovi modelli
deve vedere cosa sono semanticamente
simile a così possiamo sostanzialmente Sitz
immagino che volevo prendere che avevo avuto 10
rappresentazioni distribuite sparse ciascuna
di 2000 bit ciascuno di 40 uni e I
ordinali insieme così ora ne abbiamo una nuova
rappresentazione che potrebbe avere circa
Il 20% dei bit attivi e io no
disfare che non posso dire quali erano i 10
che ha creato questa Unione che non puoi annullare
ma posso fare quanto segue posso dire
eccone uno nuovo qui è un nuovo
la rappresentazione è una delle esistenti
10 è uno dei 10 originali e tu
potrebbe pensare che non è possibile, ma è così
in realtà è possibile ciò che tutti voi
devi fare ancora oops devi andare
indietro e guarda per vedervi tutti
sconosciuto il fondo lì se quelli
esiste nell’Unione, sto per dire che lo è
uno dei numeri originali e ora tu
potrei dire bene che potrebbe essere un errore
Potrei prendere in prestito qualcuno da questo
quello di qualcuno è vero
improbabile e se lo avessi fatto
un errore e un errore semanticamente simili a
cos’hai conservato nell’Unione ora
questo vedrai dove arriverà
importante perché i cervelli effettivamente fanno
previsioni per tutto il tempo che sei
costantemente prevedere cosa sta per
si verificano che stai andando a vedere cosa
sentirai che non ne sei a conoscenza
la maggior parte di queste previsioni, ma tu sai
quando succede qualcosa di insolito nel
modo in cui il cervello è in costante evoluzione
previsioni predice multipli
cose allo stesso tempo e così è
formando queste unioni di queste cose ma
non puoi non dire bene cosa sono
tutte le previsioni che stai facendo ma
succede qualcosa di sbagliato capisci
su di esso in modo che sia la proprietà che
esce dalla sparseness attraverso a
la rappresentazione ce ne sono altri così è
se vuoi andartene da uno
cornice tecnica da questo discorso puoi
ricorda solo queste macchine intelligenti
Saranno costruiti su sparsi disturbati
rappresentazioni non ci sono due modi
intorno Va bene ora siamo parlare
memoria di sequenza questa è una grande innovazione
abbiamo avuto circa quattro anni fa ci ha portato a
molto tempo per capirlo, vedrai
perché , probabilmente, lo farai
davvero confuso da Tory che spiega come
funziona, ma abbiamo davvero fare
puoi leggere a riguardo e in effetti quello
puoi ottenere il codice per due se vuoi
quindi come fai a formare nuovamente la memoria di sequenza
ne abbiamo bisogno per l’ inferenza nel motore
comportamento quindi diamo solo un po ‘
le neuroscienze parlano qui ok ecco la tua
vicino alla corteccia, ricordo che ho detto che è un
foglio di cellule veramente sottili in procinto di
filmare fino a tre milioni sei se tu
guarda in quella piccola sezione c’è un
sezione di circa tre millimetri di spessore
vedi questi strati di cellule verrò
di nuovo a questo in un momento ma tutti quelli
strati di cellule hanno alcuni simili
proprietà e una di quelle proprietà
non a quale livello stai guardando no
indipendentemente da dove la neocorteccia si guarda
vedrai che i neuroni sono molto
densamente là dentro quei piccoli cerchi
rappresentano i neuroni ora la freccia verde
dice che i neuroni in un molto piccolo
colonna questo non è vero ovunque di più
parti della neocorteccia rispondono in a
modo molto simile , così chiamato una mini colonna
o una micro colonna e molto resistente è
solo trenta 16 micron di larghezza e molto
colonna magro quelle cellule sorta di
stessa proprietà di risposta feed-forward così
sono allineati molto strettamente tuttavia il
la stragrande maggioranza delle connessioni sono le
cellule vicine che è rappresentato dal
arancio allineare ovunque tra quindici
il novanta per cento delle connessioni sono
solo celle vicine nelle colonne vicine e
questa è una struttura abbastanza comune ora quando
vai e guardi un vero neurone
questa è una foto di un vero corticale
neurone i collegamenti delle sinapsi sono
su questi rami come strutture chiamate
dendriti e un tipico neurone reale ha
da diverse migliaia a decine di migliaia di
queste connessioni non sono in realtà
connettersi al corpo cellulare a cui si connettono
i dendriti e i dendriti sono
elementi di elaborazione effettivi se si esegue lo zoom
in sulla sezione di un dendrite e
c’è una foto di una su 40
micron ampio e puoi effettivamente vedere
le sinapsi su c’è una piccola spina dorsale
stare meglio è micron
lì ciò che succede è se quei neuroni
se quelle sinapsi diventano un significato attivo
un potenziale d’ azione da un’altra cellula
arriva se diventano attivi al
stesso tempo in pochi millisecondi
vicini l’uno all’altro non molto distanti
quindi hai un mucchio di matematica che conosci
come 10 15 20 attivo allo stesso tempo
vicini tra loro quindi genera cosa
noi chiamiamo il punto dendritico e ha un
effetto molto grande sul corpo della cellula
depolarizza se non vengono in
stesso tempo o in diversi rami
difficilmente succede qualcosa così questi piccoli
i segmenti dendritici sono ciò che chiamiamo
rilevatori di coincidenza che stanno cercando
per un’attività coincidente
allo stesso tempo e se ciò accade
bingo hai ottenuto un successo e ha un
grande impatto sulla cellula quindi un neurone come me
accennato in precedenza non è un semplice
cosa è in realtà un intero set di
rilevatori di coincidenze ecco come noi
modellarlo
Non voglio entrare in tutto questo, ma qui
questo è uno dei nostri neuroni modello il
corpi cellulari il quadrato le sinapsi blu
sono quelli che sono in maggior parte dei
dendriti quelli verdi sul tuo autobus
vicino al corpo della cellula non su di esso
ma puoi vedere che non potremmo chiamare
quelle blu sono una sorta di coincidenza
detective e li ruggiamo insieme
allora vogliamo mettere questi in vogliamo
metterle in e matrici che sono simili
per il modo in cui vedi in uno strato di celle
e la domanda che vogliamo porre è come
fa quel neurone e quella struttura
impara le sequenze e te lo dirò
come e adesso, quindi è qui
va un po ‘a disagio ok ecco io sono
ora mostra una foto di un gruppo di
neuroni artificiali da uno dei nostri
esperimenti sono piccoli cubetti ciascuno
quelli del neurone e quelli rossi e
quelli che sono attivi quelli bianchi che
sono inattivi è circa il 2% sparsi
attività qui così pochi relativamente pochi
quelli rossi ora si sta verificando molto
grandi fogli di celle quindi sto solo facendo
in una piccola sezione questo non è un
cosa isolata questo è questo un po ‘
immagine di un foglio molto grande che è
succedendo ora quello che succede è e io no
dicendoti come formiamo questo scarso
distribuire la rappresentazione in modo semplice
per fare questo usando l’inibizione così è
non fa parte del discorso oggi voglio
parla di come abbiamo imparato le sequenze così
ecco qui è un momento uno qui è a
immagine di ciò che le nostre cellule attive
potrebbe essere e poi un’altra volta abbiamo a
diverso insieme di cellule attive ora questo
sta accadendo mentre stai ascoltando il mio
discorso questo si sta verificando nell’ordine di
millisecondi questi modelli mutevoli
avanti e indietro avanti e indietro indietro e
avanti ho solo due foto qui ma
fidati di me sta succedendo tutto il tempo
nella tua testa e la domanda è cosa
significa imparare bene questa sequenza
come funziona questo, quello che succede è
quando una cellula diventa attiva , cerca
celle vicine che erano attive di recente
Vicino e e dice guardare quei ragazzi sono
appena attivi di recente sono un buono
predittore di me che diventi attivo così se io
vedere quei vicini diventare attivi che posso
prevedere la mia attività e questo è quello che
ogni cellula sta facendo ogni cellula quando lo fa
diventa attivo e tutti diventano
di qualche tempo forma connessioni
cellule vicine e dice bene se vedo
quelli di nuovo, prevedo il mio
attività così li formerà
connessioni su uno di questi dendritici
segmenti come quello ora tutto il
le cellule stanno facendo questo non solo quello
tutti lo stanno facendo in alcuni locali
area e quindi ciò che accadrà è se tu
avere un input che viene in modo che sia
questi rossi faranno tutti i mazzi di cellule
essere in uno stato predittivo che in
la biologia è uno stato profondamente polarizzato e
quelli sono tutti quelli gialli che dici
beh, come mai c’è così tanto giallo?
quelli / quelli rossi, e se ti dessi
le sequenze a seguite da B e a
seguito da C e seguito da D e
poi ti mostro un pozzo che pronosterai B
vedi infatti che è un’unione di previsioni
lì ora questo come l’ho mostrato qui
è ciò che chiamiamo memoria del primo ordine
significa che impara solo un singolo
transizione da uno stato all’altro
non posso stare bene, dovrei prevedere
qualcosa di diverso basato su un lungo
la storia dei modelli che si può solo guardare
il modello molto recente e abbiamo bisogno di a
ordine variabile o memoria di alto ordine
per farti capire il discorso per te
fai comportamenti motori complessi per te
capisci le melodie hai bisogno di un livello più alto
ordina la memoria dove si trova la prossima previsione
potrebbe essere basato su qualcosa che
è successo molto tempo fa, quindi dobbiamo
risolvi quel problema in modo generale e
ecco come credo che faccia il cervello
è gonna uso quei quelle colonne I
ti ho appena mostrato prima di non avere colonne
useremo le colonne ed ecco il
idea di base
Immagina che io sia un sparso distribuito a
mazzo di zeri e quelli per lo più zeri e
invece di avere ogni cella essere uno di
quei bit zero e quelli che stiamo per
sia una colonna di celle così per ogni
un po ‘ avremo una colonna e dentro
in questo caso mostro solo 10 celle ciascuna
colonna è un’immagine molto astratta qui
e quando la colonna è attiva vado
scegliere una di quelle celle solo una così
è quello che ora se ti mostrassi il
lo stesso identico input significa esattamente lo stesso
rappresentazione distributiva sparsa ma
in un momento diverso in a
diverso contesto bene ecco questo è
lo stesso insieme di zero e uno è lo stesso
le colonne sono attive ma è diversa
insieme di celle potrei solo prenderle
a caso c’è un modo per farlo
è solo piuttosto semplice non deve
essere diversi è abbastanza di loro
devono essere diversi e quindi è questo
punto quello che abbiamo è che la colonna
livello di fila a questo livello quegli zeri e
quelli abbiamo lo stesso identico input
modello ma a livello cellulare è
molto molto diverso e quindi posso prendere
lo stesso input
in molti contesti diversi così in questo
caso se avessi quaranta atti di colonne quaranta
uni e io dieci celle quattro colonne
ci sono dai 10 ai 40 modi di rappresentare
lo stesso identico input in diversi
contesti e questo è quello che stai facendo
se dovessi dire una frase come quella
sono troppi tuto per contare
Ho usato il suono in quattro volte
frase ma ogni volta il tuo cervello
interpretato diversamente lo stesso
patter venendo nelle orecchie ma a
diversa rappresentazione internamente così
non ti confondi lo stesso succede quando
hai ascoltato l’inizio di
La quinta di Beethoven, conosci il pancione
urto ah non ti perderai dove è
okay, devi fidarti di me
Questo
oh questo voglio solo mostrare giù
ecco quindi se fossi una sequenza molto semplice
come ABCDE
e un altro come X BCDY e così se
Ti ho appena mostrato che conosci l’ABCD che dovrei
prevedere E e se ti ho mostrato X BCD
dovrebbe prevedere Y che significa internamente I
avere una rappresentazione diversa
per BC e D poi in questa sequenza e
è così che è fatto è diverso
rappresentazione interna ma allo stesso
il tempo è un token, posso dirti che lo è
nel vedere qualcosa va bene se fai tutto
questo e si può leggere su di esso non sono
andando per guidarti attraverso è molto
semplice insieme di regole, fidati di me funziona
che lo metti in una gerarchia, lo farò
finire con una sequenza molto interessante
memoria una memoria sequenza di ordine alto è
distribuito è solo ribbing il fatto
che nessuno è responsabile non c’è
singoli punti di errore
è distributivo perché può funzionare
su fogli di celle molto grandi perché
esso può essere localizzato funzioni di apprendimento
è l’ordine alto è tanto quanto il
le statistiche dei dati lo supporteranno
può imparare modelli estremamente lunghi
è una capacità molto alta anche un semplice
interpretazione può imparare milioni e
milioni di transizioni e il rumore
e fault tolerant l’ho menzionato
già può fare più
previsioni simultanee e può fare
generalizzazione semantica se lo mostro a
sequenza di modelli che non lo sono
esattamente lo stesso, ma sorta di simile a
quelli che ho visto prima che userà
conoscenza precedente e applicare al nuovo
sequenza okay tutte cose molto interessanti ora
lasciatemi andare a ho intenzione di parlare di
l’ apprendimento online è l’ultimo
parte tecnica di questo discorso qui, quindi cosa
è online l’apprendimento di nuovo, ricordiamo che siamo
parlando di imparare continuamente te
non fermarti non puoi sederti
torna indietro e rilassati e sai cosa pensare
di nuovo in seguito nessun processo è così
elaborazione così quando sono nuovi modelli
entrando nel cervello che
accadendo tutto il tempo se si pensa
su di esso non ho mai davvero il
lo stesso modello sempre due volte sul tuo ottico
nervoso non si ripete mai esattamente lo stesso
era vero per il tuo nervo uditivo o no
è solo così tanto è così grande
non ripeterò mai così hai te
fondamentalmente devi decidere che cos’è il rumore
e cosa non è il rumore cosa sarà
utile cosa non sarà utile e così
in fondo non lo sai in anticipo
iniziare a imparare tutto e
quindi fai scorrere più tardi
hey ripete che è utile se questo
non ripeto non è utile okay
quindi ecco un altro po ‘
neuroscienza Penso che questo sarà il mio
l’ultimo pezzo di neuroscienza qui quasi
così abbiamo usato a pensare che l’apprendimento in
il cervello era il rafforzamento e il
indebolimento delle sinapsi il peso del
la sinapsi e la maggior parte delle reti neurali funzionano
in questo modo ma si scopre che è così
davvero non dove gran parte dell’apprendimento
si verifica la maggior parte di essi si verifica è il
formazione di nuove sinapsi che ora conosciamo
che si possono formare nuove sinapsi straniere
tra due neuroni, anche se non sono
collegato molto rapidamente in una questione di
secondi in alcuni casi nuove connessioni
può formarsi e a volte ne bastano pochi
ripete così l’apprendimento è la crescita di
queste cose e questo lo rende molto
esercizio più interessante perché noi
avere un pallet di apprendimento molto più grande se
dovrai lavorare così come noi
questo modello nel software è il seguente
modelliamo qualcosa chiamato la connessione
permanenza che rappresenta il modo in cui
molto la sinapsi è cresciuta e quanto spesso
non è un punto di forza è quanto
è cresciuto e ha fatto una connessione
quindi pensiamo di modellare quello da 0 a 1 noi
poi metti un po ‘di soglia lungo il nostro cammino
dì forse il punto due diciamo oh se lo è
sotto il secondo punto diciamo che non è collegato
se è sopra il punto due è collegato
e diamo alla sinapsi un peso binario
non dobbiamo dargli una scala
peso dal modo in cui le sinapsi reali sono molto
molto stocastici sono inaffidabili
così puoi avere un modello neurale che richiede
sai anche con una cifra di precisione
e le tue sinapsi non sono realistiche
il modello va bene così quando addestriamo il sistema
ci alleniamo cambiando la permanenza e
allora abbiamo deciso che la connessione è
stabilito o meno e se si ripete
qualcosa ancora e ancora e ancora
si arriva fino alla scala uno qui e tutti
questo significa che è più difficile dimenticare che l’ho fatto
ripetuti molte volte qualcosa che sta andando
prenditi molto più tempo per dimenticarlo allora
se hai appena preso una scelta così
è così che modelliamo l’apprendimento
nel cervello e facciamo tutto questo dentro
Software
quindi chiamiamo tutta questa cosa corticale
algoritmo di apprendimento o CLA ed è quello che abbiamo
puoi pubblicare un articolo su questo
soddisfare tutti i dettagli e ti dirò
momento questo è in una fonte aperta
progetto – puoi guardare il codice così io
voglio solo lo sforzo in ritardo questo non è il tuo
tipica memoria del computer non è come
memoria che trovi ovunque in un computer
qualsiasi chip di silicio oggi è molto molto
diverso ma è un elemento costitutivo per
la nuova tua corteccia ed è un edificio
blocco per intelligenza macchina non lo è
il tutto è solo come pezzo ma
è un grande edificio e pensiamo
è un progresso abbastanza significativo
possiamo davvero iniziare a fare un po ‘
cose significative con questo ok così giusto
per darti un sapore come sarebbe
questo vai come lo metti insieme
Costruisci bene un tipo di cervello se tu
guarda di nuovo alla nostra piccola fetta
di neocorteccia qui ci sono questi strati
di celle semplificherò questo un po ‘
così basta avere con me c’è tutto
fondamentalmente ci sono quattro livelli di base di
cellule
due di questi sono feed-forward questi sono
L’inferenza della FIFO che stanno riconoscendo
i modelli uno di loro è un’uscita motore
strato che sta generando comportamenti e
l’altro è utile per il feedback e
attenzione ma quello che pensiamo stia succedendo
è che tutte queste sono variazioni di
ricordi di sequenza non sono esattamente
lo stesso ma hanno molto molto
proprietà simili e quindi pensiamo che
le prove suggeriscono che ognuno di questi
livelli sta implementando una variante del
CLA l’algoritmo di apprendimento corticale e
se li metti insieme hai un
piccola sezione lì nella tua corteccia e
allora puoi farlo se metti quelli in a
gerarchia e così via inizierai ad avere
una vera neocorteccia è se per quelli che
sapere che la neuroscienza non è così semplice ma
Non ti sto mentendo nemmeno se lo sono
provare Kristin arrivare al centro
essenza di ciò che sta succedendo nei cervelli reali
sono molto più cauti di così, quindi cosa c’è?
dopo cosa faremo qui
ci sono tre direzioni correnti
stanno accadendo ti dirò solo un
po ‘su tutti e tre di loro in primo luogo
di tutto c’è uno sforzo per
commercializza questo e questo è ciò che è mio
la compagnia sta facendo spero ad altre compagnie
fallo anche noi producendo un
prodotto chiamato grok stiamo cambiando il
nome della società il grok e lo farò
parlarti del suo predittivo
analisi e una delle ragioni per fare
questo è dovuto al valore commerciale o
il successo commerciale genera interesse
e dollari di investimento quindi non c’è
niente come ottenere un motivo di profitto per
alcune persone
per farli andare la seconda cosa che noi
avere un progetto open-source che noi
appena iniziato qualche mese fa chiamato nuovo
pic che è tutto il codice sorgente per
questo e l’obiettivo è che vogliamo migliorare
gli algoritmi che vogliamo sviluppare
applicazioni che vogliamo educare le persone
su questo e poi finalmente alcuni ci sono
un lavoro davvero interessante in corso
hardware personalizzato che è necessario ora noi
in realtà devo farlo perché lo siamo
correre i limiti di ciò che possiamo fare dentro
software e per fare più ricerca e a
costruire diversi tipi di pubblicità
applicazioni avremo bisogno di hardware
accelerazione e questi sono alcuni dei
le aziende stavano lavorando con quello che farò
tornare a tutto questo in modo più approfondito let
mi basta parlare del nostro prodotto a
un po ‘ non è ancora un prodotto
gonna essere un prodotto presto, ma mi permetta di dire
tu quello che è qui è una specie di blocco
diagramma che cosa sta succedendo qui abbiamo un
serie di registrazioni di dati provenienti da
macchine di tipi di servizio dei numeri
categorie testo date e orari che corriamo
loro attraverso una serie di encoder che sono
proprio come i tuoi organi sensoriali che possiamo fare
questo in un modo molto generico voglio il
tempo di parlarne oggi ma in a
modo molto generico che posso prendere qualsiasi
numero e funziona abbastanza bene noi
modellato la coclea per fare ciò
succede che finisci dopo aver corso
queste cose con il codificatore si finisce
una rappresentazione distributiva sparsa
cosa siamo venuti da uno scalare o categoria
o data o ora poi eseguiamo quelle sparse
rappresentazioni assistive attraverso il CL
una memoria di sequenze e da cui noi
può fare previsioni sulla conoscenza così
di nuovo il convert e gli encoder
convertire i dati nativi in ​​STR e il
Il CLA fondamentalmente costruisce un modello dei dati
e prevede previsioni e anomalie
abbiamo applicato questo a un sacco di diversi
problemi e abbiamo finalmente detto su uno
area su cui ci concentreremo in modo tale
delle cose che abbiamo iniziato a guardare noi
guardato abbiamo fatto molto nell’energia
spazio non stiamo andando a perseguire questo ora
ma questo è un esempio facile da mostrare
quello che sta succedendo è molto semplice
voi tutti potete guardare e andare oh ho capito
esso
piuttosto semplice ecco l’uso di energia di
questo è un edificio in Francia
l’ utilizzo di energia elettrica che puoi vedere
cinque giorni nessuno sta lavorando su
fine settimana sembra e ora il
cliente ciò che il cliente voleva fare
doveva fare a mezzanotte per fare un
previsione per ogni ora per il prossimo
24 ore quale energia effettiva
il consumo sarebbe e ci sono questi
modi di negoziazione su questo codice l’uomo
risponde se puoi, se riesci a indovinare
quanto costerà il tuo potere a te
può
questo è quanto userete che potete
fare le cose per risparmiare denaro ed energia, quindi se
lo fai attraverso il sistema
un esempio molto semplice una coppia
le variabili che arrivano a grok rock impara
i modelli devi dirlo
nulla su cosa significano questi numeri
non è coinvolta la conoscenza del dominio
qui dice solo che ce ne sono alcuni
Dopo un paio di modelli poche iterazioni esso
inizia a raccogliere i modelli e così via
il blu è il reale e il rosso lo è
il previsto non si può dire quanto bene
questo sta facendo guardando un grafico come
questo mi crede che sia abbastanza buono
in realtà in questo caso era abbastanza buono
e può predire le cose meglio di
altri algoritmi che loro i clienti
stavano guardando molto meglio ecco la
stesso problema di base ma uno che non è come
ovvio questo è quello in cui ti trovi
previsione della domanda del server su un cloud
l’applicazione in questo caso era video
codifica o decodifica video di grandi dimensioni
compagnia che fa questo e il e tu
può vedere che è molto picco e questo è
il reale del blu e non lo è davvero
Davvero prevedibile sai che c’è molto
di fattori in corso, ma è come se fosse
come ascoltare la musica dove c’è un
piccoli frammenti di canzoni che tipo di
riconoscere in altre parti che non lo fai
riconoscere e ciò che fa è grok
impara quei frammenti ed è dentro
domanda è puoi fare un lavoro migliore di
predizione di qualsiasi altra cosa che hanno
ottenuto in questo caso, abbiamo fatto molto
meglio di allora le tecniche attuali
sono stati in grado di venire perché
solo perché è buono a quel tipo di
roba qui è un altro esempio invece di
guardando le previsioni che siamo
guardando le anomalie quindi è il lancio
lato stiamo sostanzialmente dicendo che possiamo
prevedere cosa accadrà vediamo
cosa succede se non lo abbiamo messo correttamente come
lo facciamo io non vi guiderà attraverso
come funziona tutto questo è molto bello
internamente come possiamo farlo perché
è una previsione distribuita e
rilevamento anomalie distribuito così è
non come questa cosa ma in questo caso
questa è una temperatura dell’olio in a
cambio in un grande mulino a vento nel nord
Mare qui nel Mar Baltico da qualche parte
lassù io e fondamentalmente il croc è
modellare questi dati e poi questo è il suo
quanto sono belli i cambiamenti in
prevedibilità come quello che prova Graças
Stavano dicendo che sembra proprio questo
è come un nuovo maschio è come un nuovo
Malattia o fare nuovi frammenti di canzone come sono io
udito o è questo qualcosa che ho visto
prima ed è e cosa succede a
questo punto qui si voltano che girano
la finestra spenta e all’improvviso grog
Dice bene, ecco che amico, abbiamo iniziato
addestrare il sistema e dice se
tutto sembrava anomalo perché
c’è di nuovo non lo sapeva, allora dice
okay allora hanno fermato la macchina per
alcuni motivi
ancora una volta qui era un fallimento qui di a
fallimento di questa macchina e noi e noi
erano in grado di prevedere in anticipo di
quantità significativa di tempo il sistema
stava comportando un po ‘strano che non fosse fuori
la gamma non era fuori dalla soglia ma è così
era proprio come modelli insoliti e così via
è stato davvero bravo in questo genere di cose
in realtà abbiamo deciso che indosseremo
il nostro primo prodotto sarà in un
spazio di rilevamento anomalie e abbiamo
deciso di applicare allo spazio IT non siamo
essere segreto su questo, ma io non sono
raccontando tutti i dettagli su di esso sia
lo faremo lanciando quello
qualche tempo all’inizio del 2014 ma provando davvero
per portare una scienza veramente profondo per
rilevamento anomalie nel monitoraggio
applicazioni e server che nessuno ha
stato in grado di fare prima di andare bene così è
questo è l’esempio commerciale che può esserci
solo un po ‘del progetto open source
chiamiamo questa nuova foto e puoi trovarla
a Numenta org è proprio lì, adesso
abbiamo il codice sorgente per CLA e
un sacco di altre cose lassù è a
singolo albero che significa che è lo stesso
codice che inseriamo nel nostro prodotto è possibile
aderire effettivamente alla pianificazione dello sprint
sessioni se si desidera chiamare e
partecipare a quelli che non è è
non è un albero a doppia sorgente, qui è sotto
disponibile sotto GPL versione 3 c’è
anche sul sito quei documenti e
video e documentazione un sacco di mettere
video e fare discorsi come questo se
Non hai stanco di questa già non c’è
una comunità lassù abbiamo appena iniziato
questo un paio di mesi fa con come tre
mesi fa o forse un po ‘meno
di tre mesi fa
siamo molto contenti della risposta così
abbiamo un gruppo di email molto attivo
oltre 200 abbonati di circa 20 plus
messaggi al giorno abbiamo un tempo pieno
manager questo è molto importante per un
progetto open source che non abbiamo lanciato
lassù stavamo prendendo questo come un
affari e molto serio su questo
quindi sono molto attivo anche su questo
NON questo fine settimana perché sono qui ma
a parte questo io di solito sono quello che tu
può fare se il tuo interesse in questo e io sono
sperando di ottenere alcuni di voi interessati a
questo forse solo per te sai pensare
puoi cambiare il mondo qui puoi
istruisci apprendi questa roba non lo è
facile sarò onesto se il tuo prende un
mentre per capire davvero questa roba
profondamente è bello quando lo fai
molto chiaro e coerente ma è un
un po ‘straniero che stiamo cercando
le persone ci sono persone che fanno di nuovo
applicazioni per CLS e persone
che si sviluppano nel idee molto intelligenti già
a riguardo, c’è un interesse in
estendendo questo al linguaggio della robotica e
visione di alcuni di questi sono più difficili di
altri sono molto simili a questi
la ricerca proietta delle persone intelligenti
saranno quelli per capire come fare
per prima cosa sono molto interessato al
componente di robotica abbiamo alcune persone
aiutare le persone che aiutano di appena con
strumenti e documentazione utili
alle persone che portano nei nostri strumenti e
fare funzionare le cose meglio abbiamo avuto il nostro
secondo hack abbiamo avuto il nostro primo hackathon
a maggio prima ancora aperto fino
è stato un grande successo, eravamo felici
con esso stiamo avendo il nostro secondo in
San Francisco l’ho capito molto bene
improbabile che le persone in questo pubblico
stanno andando a loro ma ho menzionato
ci sarà che parleremo
sull’elaborazione del linguaggio naturale e
usando rappresentazioni stupide parziali
c’è una società in Austria chiamata
septa CEP T che ha fatto un po ‘
lavoro interessante lì e così siamo
andando a integrare con loro siamo
andando avere una discussione ho intenzione di LIS
discussione sul motore sensoriale
integrazione e non vediamo l’ora
e sembra che abbiamo un certo interesse uno
dei nostri collaboratori ci sta aiutando a mettere
insieme uno probabilmente in Irlanda in alcuni
tempo della prima metà del 2014 che non ha
stato finalizzato ma vogliamo andare oltre
a questa parte dell’Atlantico va bene prossima
domanda qui hardware personalizzato sono
sorpreso da quanto velocemente questo sta accadendo
Ho pensato che sarebbe un po ‘
più a lungo ma parliamo di cosa sta succedendo
qui
prima di tutto un sacco di aziende di hardware
Intendo le compagnie navali di cui stiamo parlando
conosci le persone che costruiscono le navi no
sistemi ma chip che stanno cercando
qualcosa in più ero ad una conferenza
ha chiamato l’ iske un anno fa e così
era incredibile di cui stanno parlando tutti
al di là di Neumann come stanno vedendo
i limiti della legge di Moore dicono che noi
bisogno che abbiamo bisogno di applicare il nostro silicio
possiamo fare tutto questo chip tutti questi
silicio conosci tutti questi transistor
su chip cosa faremo e
stanno cercando un’alternativa
architetture che amano il tipo di
roba che stiamo facendo perché è così
la memoria distribuita è naturalmente colpa
tolleranti possono solo ammucchiarne i bit
lì e non ti preoccupare se l’1% di loro lo sono
male perché questi algoritmi no
mi importa davvero che l’idea sia così
è gerarchico quindi c’è un sacco di
cose che ottengono molto alcuni di questi ragazzi
eccitato
abbiamo bisogno di nuove architetture hardware noi
correndo contro i problemi di velocità oggi
per la ricerca, quindi abbiamo iniziato a farne alcuni
semplici sistemi di visione ci siamo fermati perché
ci è voluto troppo tempo
gli esperimenti sono in corso per quattro
giorni che conosci ai sistemi molto piccoli
stiamo usando in Grok possiamo fare un
passo di apprendimento di inferenza in circa 100
millisecondi ma quando ne costruisci di più
sistemi gerarchici complessi rallenta
giù un bel po ‘ne abbiamo bisogno anche perché
c’è c’è bisogno di ridurre il
costa la potenza e costruisci embedded
sistemi questi sono tutti gli standard
ragioni per cui abbiamo costruito l’hardware per il
ultimi 50 anni per i computer lo stesso
cosa sta per succedere qui questi sono
alcune delle aziende che hanno iniziato
lavorare con noi già IBM è che abbiamo un
accordo di ricerca congiunto con Alma’s in
laboratori di ricerca a San Jose in California
questo è il primo che abbiamo iniziato
c’è un’iniziativa a DARPA che non lo faccio
sapere se tutti voi sapete che cosa DARPA è la sua
Difesa Advanced Research pure
e stanno lavorando a un nuovo programma
chiamato il processore corticale non lo è
ufficiale ancora ma hanno avuto più
incontri su di esso è fondamentalmente in uso
il CLA come implementazione del prototipo
primitivo non è limitato a quello
ma noi siamo l’ esempio ed è anche
incentrato sulla memoria temporale gerarchica
che è il termine con cui sono venuto a
numero di anni fa e poi c’è
c’è un problema di C great e
Sandia Labs questi ragazzi vogliono usare
fotonica questo è molto embrionale questo
è l’inizio se si va indietro guardare
l’inizio nel primo computer
la storia della gente non sapeva come fare
memoria non sapevano come fare questo
roba hanno provato cose diverse
ma la stessa cosa sta accadendo proprio ora
okay, quindi ho solo un altro paio
scivola qui oh sono qui siamo in ritardo
già lo sto trattenendo dalla tua birra
Mi dispiace, ho solo altre due diapositive
riguardo al futuro machine intelligence cosa
sta andando a guardare come quello che siamo
parlare di qui è che è così
queste cose malvagie conosci la matrice
Skynet the Terminator ti stanno andando
sapere consumare il mondo o è come
questo puoi avere un robot amichevole
Butler’s e giocare e mettere
su cappelli divertenti e giocare in quel modo
sai o è qualcosa di simile in
al centro quello che sembra davvero bello
e poi diventa cattivo sai tutto bene
quindi ecco alcune cose che sono
certo che succederanno che posso dire
questo senza una domanda che possiamo fare
cervelli artificiali che sono più veloci
e più grande del cervello umano non lo faccio
invia questo a tutto ciò che dobbiamo fare sono felice
per rendere il cervello molto piccolo a molto piccolo
la neocorteccia è molto utile ma possiamo
costruiscile più grande sai che i neuroni non possono
fare qualsiasi cosa più veloce di 5 millisecondi
possiamo eseguire cervelli artificiali dappertutto
esso
un milione di volte più veloce di
marchi biologici e possiamo farcela
molto più grande possiamo essere applicati in
tutti i tipi di sensi che non siamo è questo
non riguardo la costruzione di robot a livello umano
cose a cui stiamo già applicando questo
dati sensoriali che è venuta fuori
computer e mulini a vento e altri
cose che non deve essere visione e
sentire e toccare in realtà non sta andando
per lo più questo e possiamo venire tutti
tipi di sensori pazzi che funzionano in 3d
e spazio ad alta dimensione e così via
saremo in grado di fare robotica fluida
che è stato niente è c’è
niente del genere oggi nel mondo e
ecco un altro interessante il nostro cervello
devono integrarsi tutti in un solo cranio ma
ricorda che è una gerarchia nella memoria
regioni e non ci sono ragioni per cui quelle
quelle regioni devono essere co-localizzate se
siamo in un mondo che è collegato così da te
può effettivamente costruire memoria distribuita
sistemi che sono dove pezzi del
il cervello si trova in diverse parti del
mondo le diverse parti di una macchina
o organizzazione che sa come sia
giocherò è molto molto difficile
per sapere come sta andando rivelarsi solo
come è molto difficile 50 60 70 anni
fa e come i computer stanno andando a girare
qui è qualcosa che potrebbe accadere
potrebbe non accadere che possiamo o non possiamo creare
robot umanoide non è certamente un
obiettivo mio di fare questo non mi interessa
riguardo il passaggio della macchina di Turing che sono
felice con un mouse o ne conosci qualcuno
spazio di exploit robot o qualcosa del genere ma
alcune persone si preoccupano di questo e di fare
è umanoide come questo genere di cose
non sei r2 che c-3po mi scusi ?
non un grande ragazzo di fantascienza
Campo CC sai che devi avere tutto
le altre parti del cervello che hai
cenare per renderlo umano
ha una piccola vita umana e ha
emozioni umane e non abbiamo bisogno di fare
quello per la maggior parte delle macchine intelligenti noi
può o non può avere cervello del computer
interfacce per tutte le persone certamente per
persone che sono disabilitate potrebbe essere
molto molto importante ma tu sai che lo sono
noi che andiamo collega si sa collegare le cose
nella nostra testa tutto il tempo non lo so
qui alcune cose non succederanno
non caricherai il tuo cervello come un
computer, mi dispiace se hai sentito questo
qualcosa che non vedi l’ora che sia
semplicemente non succederanno persone che sostengono
per questo il cingolato Ariens qualunque cosa
semplicemente non ne sanno abbastanza
neuroscienza puoi parlarmi più tardi
non è succederà non ci sara ‘
sii robot malvagi che ti conquistano il mondo
conosci l’unica cosa pericolosa in
il mondo è auto-replicazione che è
cervelli pericolosi non sono pericolosi e
a queste cose non importa che tu debba staccare la spina
loro non si preoccupano è solo alcuni è
solo memoria e non viene portato
via su questo whoops
va bene così
ultima diapositiva perché dovremmo fare questo perché
te ne importa perché sei qui non c’è
due motivi per cui dovremmo creare
macchine intelligenti il primo è che possiamo
rendere la nostra vita migliore su questo pianeta solo
come i computer hanno migliorato le nostre vite
discutibilmente e molto molto drammaticamente
in medicina e trasporti e
comunicazioni e numerosi modi noi
non si può immaginare che si possano immaginare settant’anni
abbiamo fatto meglio la vita su questo pianeta
può rendere la vita usando meglio il cervello
non chiedermi come andrò a succedere
non conosco tutti i dettagli che posso
Supponiamo che nessuno possa davvero prevederlo
ma posso dirti che succederà e
è una cosa importante da fare, guarderemo
indietro nel tempo e vedere cosa mi fa piacere
abbiamo fatto tutto ciò ma penso ancora di più
importante per me è la mia ipotesi
qual è lo scopo della vita e perché?
non cosa dovrei provare a fare nel mio
vita e ho solo tre numeri
anni qui e meno a sinistra di voi ragazzi
fai la maggior parte di te almeno così mi conosci
è tutto sulla conoscenza di cui parla
acquisire conoscenze che accumulano conoscenza
e condividendolo nelle generazioni future se
non sappiamo cosa significhi noi
semplicemente meglio continuare ad imparare e così penso
possiamo possiamo costruire macchine che davvero
imparo già in molti modi drammatici
accennato possono essere più veloci e loro
non stancarsi mai di poter creare
fisici o matematici che funzionano
24 ore al giorno un milione di volte più veloce
di noi e non ti stancherai mai di sapere
mai essere deviato dal sesso opposto
o qualcosa del genere tu sai e e
anche se stiamo andando a esplorare il
universo, mi dispiace dirlo, lo sai
a meno che non vogliate prendere quella a senso unico
viaggio su Marte
non saranno gli umani a farlo tu
conosci l’unico modo in cui saremo davvero
in grado di farlo è che dovremo farlo
spedire macchine intelligenti
che può gestire le contingenze di
cose che escono e mentre esploro il
universo così per me questo è in definitiva
di cosa si tratta?
accumulare conoscenza e imparare di più
su di noi e penso che sia un
vale la pena impegnarsi è un grande momento per
essere coinvolto in questo è difficile ammettere
questo non è qualcosa che puoi semplicemente
prendilo domani e inizia a farlo
ma sta succedendo e se sei così
propenso ti invito a farti coinvolgere
grazie mille
tu

Please follow and like us: