signore signori e oltre siamo dentro
al centro di un carrozzone AI non è così
la prima volta c’è stata un’IA
carrozzone per questo tenore di conti siamo
infatti nella quarta era boom per AI
che il primo che va nel lontano il
Gli anni ’50 e il carrozzone non sono necessariamente a
cosa cattiva ogni tanto un’idea
viene avanti e inizia a ottenere un sacco di
attenzione e se l’ idea è generalmente a
buona idea allora questa è una buona cosa
comunque la buona parte dell’idea è
di solito rigorosamente studiato solo da a
piccola minoranza assicurati di farne parte
quella minoranza come una mia lettura usata
per dire se si sta andando a saltare su un
il carrozzone salta sul pezzo che vale
scrivendo così lascia che ti spieghi cosa sono
pensare è la parte più interessante di
l’attuale boom di intelligenza artificiale e per fare
che ho bisogno di fare un passo indietro e
inizia con qualcosa di leggermente diverso
quanti di voi nel pubblico lo farebbero
ti consideri programmatori vediamo
per alzata di mano tutti voi siete anche
programmatori perché perché la programmazione è
nient’altro che specificare il comportamento quando tu
premere un pulsante per inviare un’e-mail o toccare
su un’icona per aprire un’applicazione che sei
facendo un pochino di programmazione sei
dicendo computer
Ho intenzione di inviare questa email o
telefono intendo che tu apra questo
applicazione e non si potrebbe pensare
è come programmazione ma lo è e in effetti
in questa visione l’intera storia di
il design dell’interfaccia del computer può essere pensato
di come sempre più persone
programma senza rendersene conto
quando siamo passati dal mangiare le schede perforate in
nei computer alla riga di comando
interfacce abbiamo ridotto la quantità di tempo
ci sono voluti per ottenere una risposta dal
computer da giorni a secondi e questo
significava che non dovevi ottenere il tuo
codice giusto la prima volta che era ok
fai degli errori che potresti provare di nuovo
e quando siamo passati dalla linea di comando
interfacce per interfacce grafiche utente
avevamo tutte queste ricche analogie visive
come pulsanti e icone e menu e
ogni passo lungo la strada sempre di più
le persone erano in grado di usare i computer per ottenere
il loro lavoro è finito
raggiungere con i clic
e tocca ciò che decenni prima avrebbe avuto
richiesto loro di scrivere diverse righe di
codice che ci riporta ad AI
interagendo con un artificiale
l’intelligenza è come programmare perché
si tratta di specificare il comportamento quando tu
chiedi all’assistente sul tuo telefono di andare a prendere
alcune informazioni che stai specificando
come vorresti che quell’agente si comportasse
ora puoi ottenere termostati intelligenti
impara come ti piace la temperatura basata
da come si imposta nei primi giorni
di utilizzo e da allora in poi impara come impostare
la temperatura da soli un altro
l’esempio sottile è il prodotto
raccomandazioni su un negozio online come
come Amazon e quando navighi e crei
acquisti su un negozio come te
insegnando al sistema le tue preferenze e
specificando in tal modo il comportamento del
raccomandare il sistema o pensare al sociale
media su piattaforme di social media tuo
ogni clic i tuoi piacciono ai tuoi post
condivide anche la quantità di tempo in cui dimori
su un post è registrato e usato per
personalizzare la vostra esperienza di quella
piattaforma le tue azioni registrate sono le
programma e in questo modo
sempre più della nostra esperienza del
Internet e il mondo che ci circonda
è programmato da noi implicitamente o
esplicitamente ora ho appena affermato che l’AI è
come programmare e se fosse esattamente
come programmare quindi non ci sarebbe
qualsiasi problema per risolvere potremmo tutti solo
vai a casa perché abbiamo aiutato
sviluppatori di software professionali a
programma per decenni, ora solo così
succede che sai che tutti sono
programmare il loro ambiente usando l’intelligenza artificiale
usiamo solo gli strumenti che usiamo
sviluppatori di software professionali e
darli a gente comune e averli
usa quello giusto sbagliato ci sono due chiavi
modi in cui l’intelligenza differisce da
programmazione tradizionale il primo è
che l’obiettivo quando stai interagendo
con un sistema di intelligenza artificiale è spesso sconosciuto o
mal definita
Pensiamo a due esempi che
abbiamo già visto quando si imposta una sveglia
sulla tua sveglia l’obiettivo è semplice
vuoi che la sveglia suoni ad un certo
tempo così questo lo rende davvero facile
risolvi quando si verifica un errore o a
bug nel tuo
se la sveglia suona quando si voleva a
torretta non volevo che suonasse o se
l’allarme non suona quando lo volevi
per suonare c’è un bug ora confrontare
questo al comportamento dello shopping online
raccomandazioni o forse quelle
annunci fastidiosi che sembrano seguirti
ovunque su Internet tu
potrebbe ottenere quelli che sembrano più rilevanti
o quelli che sembrano meno rilevanti ma lo sono
difficile dire se il comportamento del
il programma è giusto o sbagliato, intendo il
l’ obiettivo ultimo, naturalmente, è ottenere
raccomandazioni migliori ma questo è un
obiettivo sfocato e in continua evoluzione e così via
non c’è un vero concetto di
se il comportamento sia il
il programma si sta comportando correttamente in qualsiasi
senso assoluto della parola e questo
primo problema spero sia chiaro
più profondo di quello che possiamo risolvere
solo tecnologia perché vogliamo
applicare AI a questi problemi mal definiti
come le preferenze umane le soluzioni
inevitabilmente bisogno di essere umano centrico quindi a
sarebbe un sistema di raccomandazione ben progettato
aiutare sia l’umano che l’intelligenza artificiale a sviluppare un senso
per quale buona raccomandazione è e a
un buon sistema di raccomandazione avrebbe aiutato entrambi
umani e intelligenza artificiale vengono a patti con l’idea
che non esiste nulla come il
raccomandazione perfetta al secondo modo
quale AI si allontana dal tradizionale
la programmazione è su come è il programma
immagazzinato
tradizionalmente i programmi sono archiviati come
linee di codice o serie di regole o come
combinazioni di impostazioni semplici pensano
di nuovo sulla tua sveglia memorizzata in
la sua memoria sia digitale che analogica
due pezzi di informazioni il primo è
se l’allarme è acceso o spento e il
secondo è a che ora è impostato l’ allarme
e questi combinati per rendere il seguente
programma molto semplice se l’allarme è attivo
e l’ora corrente corrisponde a quella memorizzata
l’ora della sveglia poi squilla e questo programma è
correre ogni minuto e se qualcosa va
sbagliato e non funziona puoi sempre
ispezionare queste due informazioni
era l’allarme impostato a che ora era impostato
per per capire cosa è andato storto
in confronto al contrario piuttosto AI
programmi
sono memorizzati come grandi quantità di numeri
che rappresentano i parametri statistici
che presi individualmente non hanno significato
ma collettivamente creare questo ricco
comportamento che vediamo oggi nei sistemi IA
così semplicemente ispezionando le impostazioni del
il programma non ci dice molto di no
aiutaci a capire il programma e il
il secondo problema è in realtà quello di cui abbiamo bisogno
per fare un po ‘di trazione che potresti avere
sentito parlare di questo problema con molti nomi
conoscere il problema di intelligibilità
problema di trasparenza la scatola nera
problema nell’IA e quando la gente parla
questo spesso senti cose come noi
deve garantire che l’ intelligenza artificiale aumenti l’umano
capacità o dobbiamo garantire che AI
potenzia, aumenta e amplifica
abilità umane o dobbiamo assicurarci lì
non sono pregiudizi nascosti nella nostra intelligenza artificiale
sistemi in cui gran parte di questa discussione
può essere ricondotto al fatto che
semplicemente ispezionando l’individuo
impostazioni che compongono un programma AI
non dirci molto di cosa
il programma fa e come lo fa allora
ci sono molte soluzioni potenziali per
questo problema una scuola di pensiero è
che dovremmo solo ridurre il
complessità dei programmi di intelligenza artificiale forzando
loro di avere meno di questi parametri
e questa è la radice della struttura
semplicità che ha un inconveniente perché
questi programmi più semplici lo trovano molto
più difficile riprodurre questo ricco complesso
comportamento a cui vogliamo che i nostri sistemi IA
impara come navigare in un autista
auto senza conducente attraverso tutti i tipi di
questi diversi terreni stradali sono più semplici
i programmi non funzionano altrettanto bene in
la mia ricerca ho esplorato un’alternativa
teoria che invece di guardarla come
un problema strutturale dovremmo essere
guardandolo come un progetto di interazione
problema che significa guardare il
numeri individuali che compongono un
l’intelligenza artificiale è sbagliata
livello di astrazione a cui a
interagire con loro quando siamo andati
interfacce da riga di comando a grafica
interfacce utente abbiamo usato metafore e
astrazione per aiutarci a dare un senso
questi sistemi complessi quando si sposta a
file sul tuo computer oggi no
devi digitare un comando oscuro
coinvolti
se il file è attualmente e volevamo
per andare basta trascinare la sua icona
questa non era casuale questa interazione
è il duro risultato di diversi anni
di un’attenta ricerca sul design di
questi sistemi e sto sostenendo che noi
dovrebbe essere l’applicazione di quelle stesso design
principi di ricerca per la progettazione di AI
sistemi per renderli più accessibili
i sistemi di IA di oggi sono in realtà abbastanza
paternalistico per l’utente pensa al
assistente sul telefono o sul
raccomandare sistemi quando questi sistemi
prendi una decisione se non te lo dici
come sono venuti a tale decisione
quali dati la decisione era basata su come
fiduciosi di essere in quella decisione e
quindi se in qualche modo sei insoddisfatto
la risposta è che hai trovato un
errore c’è pochissimo supporto per
per capire cosa dovresti fare dopo
e in definitiva qualsiasi informazione il
le informazioni che stai cercando sono
informazioni che ti aiuteranno a ottenere
quello che vuoi dal sistema a
migliorare il suo comportamento per meglio specificare
il suo comportamento è qualsiasi informazione
questo ti aiuterà a programmare il
sistema infatti conosciamo attraverso la ricerca
ci sono tipi specifici di informazioni
che aiutano gli utenti finali non esperti di questi
i sistemi interagiscono con capire e
programmare informazioni AI come perché o
perchè no
questo sistema prende una certa decisione
quale input prende il sistema per fare
le sue decisioni che tipo di decisioni sono
in realtà è capace di ciò che sarebbe il
sistema fare in un certo scenario come
fiducioso è il sistema della sua decisione
e quali controlli ho come l’utente ha
influenzare il processo decisionale di
il sistema e per aiutarlo a fare meglio e
nella mia ricerca l’ho proposto
le informazioni potrebbero essere generate usando
meta intelligenze, cioè
più piccole intelligenze periferiche che
guarda il principale programma AI e segnala
cosa hanno imparato a riguardo in alto
termini di livello e questi termini di alto livello
potrebbe essere presentato come grafici
illustrante la fiducia del
sistema o forse come immagini in a
allungando ciò che il sistema vede quando
guarda un’immagine o anche come naturale
testo della lingua ma il design di questi
livello più alto
così come quali controlli o affordances
l’utente deve agire su di loro è davvero
la chiave per il design di questi AI
sistemi ora ho abbastanza tempo per dirlo
tu una storia su una cosa che abbiamo
imparato a conoscere il design dei sistemi di intelligenza artificiale
attraverso la ricerca sono stato coinvolto in a
progetto a Microsoft dove eravamo
cercando di costruire un sistema di intelligenza artificiale che sembra
a video di pazienti con multiplo
la sclerosi si è comportata come standardizzata
movimenti clinici e valutare il
gravità della loro malattia ora multiplo
la sclerosi è una malattia dei motoneuroni e
il peggio è il più è difficile per
pazienti per eseguire lo standard
movimenti come il dito al naso
movimento a causa di cose come il tremore
e quindi il sistema avrebbe dovuto cercare
ai video dei pazienti e produrre un
punteggio di valutazione una gravità della malattia
punteggio su una scala da 0 a 4 per ciascuno di
loro con zero sono completamente normali
e per essere così compromesso non si poteva
completa il movimento e puoi
immagina quanto sia utile un sistema come questo
sarebbe perché ciò consentirebbe
i pazienti devono essere valutati molto di più
regolarmente che ha enormi
implicazioni per le decisioni di trattamento
permette loro di fare molto meglio
decisioni di trattamento e sistemi come
questo impara prima prendendo un mucchio di
esempi che sono già stati etichettati
da umani esperti, quindi abbiamo dovuto creare
un set di dati di apprendimento per il sistema in cui
ci eravamo già fatti dei neurologi
etichettare alcuni video con i loro appropriati
a tramite una gravità delle valutazioni di malattia e
siamo andati da un neurologo con il nostro
i video e il problema è che è così
concetto duro che anche i neurologi hanno
un momento difficile elaborare quali sono le valutazioni
dovrebbe essere così daremmo ai neurologi
lo stesso video e sarebbero solo d’accordo
con i punteggi degli altri circa il 60% di
il tempo
inoltre daremmo gli stessi neurologi
lo stesso video a diverse ore di distanza e
non sarebbero nemmeno d’ accordo con loro
valutazioni precedenti quindi abbiamo provato molte cose
per migliorare questa situazione proviamo a lavorare
con i neurologi per creare nuovi
le rubriche su come valutare questi video
abbiamo provato a selezionare i video gold standard
quello sarebbe esemplare di ciascuno dei
livelli di gravità severa in modo che così
quella
neurologi sarebbero in grado di fare riferimento a
qualcosa senza miglioramento di consistenza
la nostra soluzione ci ha richiesto veramente
ripensare il nostro approccio a tutto questo
problema l’osservazione chiave era quella
gli umani sono fondamentalmente migliori a
confrontando le cose di quante sono a
assegnare punteggi assoluti alle cose così
invece di far valutare ogni neurologo
ogni video separatamente abbiamo chiesto di dare
loro piccole serie di video e detto
ordinare questi video in base alle
la gravità della malattia e poi noi
sono stati in grado di prendere questi risultanti
ordini ed estrai lo zero a quattro
punteggi in scala da loro e questi
i punteggi risultanti erano molto di più
coerente di tutto ciò che abbiamo visto
prima ben oltre lo stato dell’arte
ben oltre gli standard clinici dell’oro
è stata una vera svolta sia per l’ intelligenza artificiale che per
bene come la neurologia ora potresti avere
notato che questo esempio è anche su
il sistema AI stesso riguarda i dati
ci nutriamo in esso, ma spero che questo solo
va a dimostrare che c’è un intero
storia al design di questi sistemi
quello succede prima e dopo questi
i sistemi entrano persino nell’immagine e nel nostro
approccio alla progettazione di questi sistemi
deve essere olistico, intendo pensare
quanto spesso ai tuoi umani viene chiesto di votare
tutto il tempo che ti viene chiesto di valutare
film o su prodotti Netflix su Amazon
ci piacciono i post sui social media come
per valutare le canzoni sul tuo streaming musicale
i servizi e gli esseri umani non si occupano di
assoluti
ci occupiamo di parenti e se richiesto
produrre punteggi assoluti possiamo ma questi
i punteggi sono spesso incoerenti o
senza senso, quindi come sarebbero tutti questi
i sistemi sembrano se invece ci fosse stato chiesto di farlo
confronta le canzoni per confrontare i video con
confronta i film per confrontare diversi post
per riassumere lo abbiamo imparato
la programmazione sta specificando il comportamento che abbiamo
ho imparato che l’intelligenza artificiale è come programmare e
dove parte dal tradizionale
la programmazione è dove il design dell’interazione
può intervenire per colmare le lacune in modo che il prossimo
tempo di leggere un articolo o ascoltare un discorso
su come l’intelligenza artificiale è ovunque e non possiamo
capiscilo
puoi conforto nel fatto che
il problema principale di trovare il giusto
metafore e il giusto livello di
l’astrazione non è nuova per il computer
la scienza l’ abbiamo già fatto prima
interfacce della riga di comando e con
interfacce utente grafiche e con
touchscreen e interfacce gestuali e
siamo in grado di farlo di nuovo ora non si ottiene me
è sbagliato è un problema di progettazione molto difficile
ma sono fiducioso che possa essere affrontato
attraverso l’applicazione di principio di
il nostro design della nostra comprensione di
design e psicologia umana e in ordine
per fare questo abbiamo bisogno di più
ricercatori interdisciplinari ci sono
persone che possono collegare il tecnico
aspetti dell’apprendimento automatico con il
aspetti sociali della ricerca dell’utente e del
aspetti artigianali dell’interaction design e
Non intendo solo che dovremmo avere di più
critiche di scienza sociale di IA che abbiamo
molti di quelli già in effetti questi
le critiche di un aya sono così distaccate da
le realtà tecniche di IA
sono spesso loro hanno confine con
facile e poco pratico e il contrario
è spesso anche vero quando AI
i ricercatori rispondono a human centric
critiche il risultato è spesso
riduttiva o Universalist assumendo
che qualche aspetto complesso dell’essere umano
l’esperienza può essere catturata aggiungendo
un altro parametro nel sistema ora
ci sono delle eccezioni ma il centro è vero
ha introdotto la competenza disciplinare
difficile da trovare quindi ecco il mio desiderio che voglio
più ricercatori di scienze sociali da fare
un vero sforzo per imparare a costruire e
progettare sistemi IA Voglio più AI
ai ricercatori di fare un vero sforzo per
impara le teorie e i metodi del sociale
scienza e design e insieme sono
fiducioso che costruiremo di più
computer accessibile e potente
interfacce ancora grazie
[Applausi]
al centro di un carrozzone AI non è così
la prima volta c’è stata un’IA
carrozzone per questo tenore di conti siamo
infatti nella quarta era boom per AI
che il primo che va nel lontano il
Gli anni ’50 e il carrozzone non sono necessariamente a
cosa cattiva ogni tanto un’idea
viene avanti e inizia a ottenere un sacco di
attenzione e se l’ idea è generalmente a
buona idea allora questa è una buona cosa
comunque la buona parte dell’idea è
di solito rigorosamente studiato solo da a
piccola minoranza assicurati di farne parte
quella minoranza come una mia lettura usata
per dire se si sta andando a saltare su un
il carrozzone salta sul pezzo che vale
scrivendo così lascia che ti spieghi cosa sono
pensare è la parte più interessante di
l’attuale boom di intelligenza artificiale e per fare
che ho bisogno di fare un passo indietro e
inizia con qualcosa di leggermente diverso
quanti di voi nel pubblico lo farebbero
ti consideri programmatori vediamo
per alzata di mano tutti voi siete anche
programmatori perché perché la programmazione è
nient’altro che specificare il comportamento quando tu
premere un pulsante per inviare un’e-mail o toccare
su un’icona per aprire un’applicazione che sei
facendo un pochino di programmazione sei
dicendo computer
Ho intenzione di inviare questa email o
telefono intendo che tu apra questo
applicazione e non si potrebbe pensare
è come programmazione ma lo è e in effetti
in questa visione l’intera storia di
il design dell’interfaccia del computer può essere pensato
di come sempre più persone
programma senza rendersene conto
quando siamo passati dal mangiare le schede perforate in
nei computer alla riga di comando
interfacce abbiamo ridotto la quantità di tempo
ci sono voluti per ottenere una risposta dal
computer da giorni a secondi e questo
significava che non dovevi ottenere il tuo
codice giusto la prima volta che era ok
fai degli errori che potresti provare di nuovo
e quando siamo passati dalla linea di comando
interfacce per interfacce grafiche utente
avevamo tutte queste ricche analogie visive
come pulsanti e icone e menu e
ogni passo lungo la strada sempre di più
le persone erano in grado di usare i computer per ottenere
il loro lavoro è finito
raggiungere con i clic
e tocca ciò che decenni prima avrebbe avuto
richiesto loro di scrivere diverse righe di
codice che ci riporta ad AI
interagendo con un artificiale
l’intelligenza è come programmare perché
si tratta di specificare il comportamento quando tu
chiedi all’assistente sul tuo telefono di andare a prendere
alcune informazioni che stai specificando
come vorresti che quell’agente si comportasse
ora puoi ottenere termostati intelligenti
impara come ti piace la temperatura basata
da come si imposta nei primi giorni
di utilizzo e da allora in poi impara come impostare
la temperatura da soli un altro
l’esempio sottile è il prodotto
raccomandazioni su un negozio online come
come Amazon e quando navighi e crei
acquisti su un negozio come te
insegnando al sistema le tue preferenze e
specificando in tal modo il comportamento del
raccomandare il sistema o pensare al sociale
media su piattaforme di social media tuo
ogni clic i tuoi piacciono ai tuoi post
condivide anche la quantità di tempo in cui dimori
su un post è registrato e usato per
personalizzare la vostra esperienza di quella
piattaforma le tue azioni registrate sono le
programma e in questo modo
sempre più della nostra esperienza del
Internet e il mondo che ci circonda
è programmato da noi implicitamente o
esplicitamente ora ho appena affermato che l’AI è
come programmare e se fosse esattamente
come programmare quindi non ci sarebbe
qualsiasi problema per risolvere potremmo tutti solo
vai a casa perché abbiamo aiutato
sviluppatori di software professionali a
programma per decenni, ora solo così
succede che sai che tutti sono
programmare il loro ambiente usando l’intelligenza artificiale
usiamo solo gli strumenti che usiamo
sviluppatori di software professionali e
darli a gente comune e averli
usa quello giusto sbagliato ci sono due chiavi
modi in cui l’intelligenza differisce da
programmazione tradizionale il primo è
che l’obiettivo quando stai interagendo
con un sistema di intelligenza artificiale è spesso sconosciuto o
mal definita
Pensiamo a due esempi che
abbiamo già visto quando si imposta una sveglia
sulla tua sveglia l’obiettivo è semplice
vuoi che la sveglia suoni ad un certo
tempo così questo lo rende davvero facile
risolvi quando si verifica un errore o a
bug nel tuo
se la sveglia suona quando si voleva a
torretta non volevo che suonasse o se
l’allarme non suona quando lo volevi
per suonare c’è un bug ora confrontare
questo al comportamento dello shopping online
raccomandazioni o forse quelle
annunci fastidiosi che sembrano seguirti
ovunque su Internet tu
potrebbe ottenere quelli che sembrano più rilevanti
o quelli che sembrano meno rilevanti ma lo sono
difficile dire se il comportamento del
il programma è giusto o sbagliato, intendo il
l’ obiettivo ultimo, naturalmente, è ottenere
raccomandazioni migliori ma questo è un
obiettivo sfocato e in continua evoluzione e così via
non c’è un vero concetto di
se il comportamento sia il
il programma si sta comportando correttamente in qualsiasi
senso assoluto della parola e questo
primo problema spero sia chiaro
più profondo di quello che possiamo risolvere
solo tecnologia perché vogliamo
applicare AI a questi problemi mal definiti
come le preferenze umane le soluzioni
inevitabilmente bisogno di essere umano centrico quindi a
sarebbe un sistema di raccomandazione ben progettato
aiutare sia l’umano che l’intelligenza artificiale a sviluppare un senso
per quale buona raccomandazione è e a
un buon sistema di raccomandazione avrebbe aiutato entrambi
umani e intelligenza artificiale vengono a patti con l’idea
che non esiste nulla come il
raccomandazione perfetta al secondo modo
quale AI si allontana dal tradizionale
la programmazione è su come è il programma
immagazzinato
tradizionalmente i programmi sono archiviati come
linee di codice o serie di regole o come
combinazioni di impostazioni semplici pensano
di nuovo sulla tua sveglia memorizzata in
la sua memoria sia digitale che analogica
due pezzi di informazioni il primo è
se l’allarme è acceso o spento e il
secondo è a che ora è impostato l’ allarme
e questi combinati per rendere il seguente
programma molto semplice se l’allarme è attivo
e l’ora corrente corrisponde a quella memorizzata
l’ora della sveglia poi squilla e questo programma è
correre ogni minuto e se qualcosa va
sbagliato e non funziona puoi sempre
ispezionare queste due informazioni
era l’allarme impostato a che ora era impostato
per per capire cosa è andato storto
in confronto al contrario piuttosto AI
programmi
sono memorizzati come grandi quantità di numeri
che rappresentano i parametri statistici
che presi individualmente non hanno significato
ma collettivamente creare questo ricco
comportamento che vediamo oggi nei sistemi IA
così semplicemente ispezionando le impostazioni del
il programma non ci dice molto di no
aiutaci a capire il programma e il
il secondo problema è in realtà quello di cui abbiamo bisogno
per fare un po ‘di trazione che potresti avere
sentito parlare di questo problema con molti nomi
conoscere il problema di intelligibilità
problema di trasparenza la scatola nera
problema nell’IA e quando la gente parla
questo spesso senti cose come noi
deve garantire che l’ intelligenza artificiale aumenti l’umano
capacità o dobbiamo garantire che AI
potenzia, aumenta e amplifica
abilità umane o dobbiamo assicurarci lì
non sono pregiudizi nascosti nella nostra intelligenza artificiale
sistemi in cui gran parte di questa discussione
può essere ricondotto al fatto che
semplicemente ispezionando l’individuo
impostazioni che compongono un programma AI
non dirci molto di cosa
il programma fa e come lo fa allora
ci sono molte soluzioni potenziali per
questo problema una scuola di pensiero è
che dovremmo solo ridurre il
complessità dei programmi di intelligenza artificiale forzando
loro di avere meno di questi parametri
e questa è la radice della struttura
semplicità che ha un inconveniente perché
questi programmi più semplici lo trovano molto
più difficile riprodurre questo ricco complesso
comportamento a cui vogliamo che i nostri sistemi IA
impara come navigare in un autista
auto senza conducente attraverso tutti i tipi di
questi diversi terreni stradali sono più semplici
i programmi non funzionano altrettanto bene in
la mia ricerca ho esplorato un’alternativa
teoria che invece di guardarla come
un problema strutturale dovremmo essere
guardandolo come un progetto di interazione
problema che significa guardare il
numeri individuali che compongono un
l’intelligenza artificiale è sbagliata
livello di astrazione a cui a
interagire con loro quando siamo andati
interfacce da riga di comando a grafica
interfacce utente abbiamo usato metafore e
astrazione per aiutarci a dare un senso
questi sistemi complessi quando si sposta a
file sul tuo computer oggi no
devi digitare un comando oscuro
coinvolti
se il file è attualmente e volevamo
per andare basta trascinare la sua icona
questa non era casuale questa interazione
è il duro risultato di diversi anni
di un’attenta ricerca sul design di
questi sistemi e sto sostenendo che noi
dovrebbe essere l’applicazione di quelle stesso design
principi di ricerca per la progettazione di AI
sistemi per renderli più accessibili
i sistemi di IA di oggi sono in realtà abbastanza
paternalistico per l’utente pensa al
assistente sul telefono o sul
raccomandare sistemi quando questi sistemi
prendi una decisione se non te lo dici
come sono venuti a tale decisione
quali dati la decisione era basata su come
fiduciosi di essere in quella decisione e
quindi se in qualche modo sei insoddisfatto
la risposta è che hai trovato un
errore c’è pochissimo supporto per
per capire cosa dovresti fare dopo
e in definitiva qualsiasi informazione il
le informazioni che stai cercando sono
informazioni che ti aiuteranno a ottenere
quello che vuoi dal sistema a
migliorare il suo comportamento per meglio specificare
il suo comportamento è qualsiasi informazione
questo ti aiuterà a programmare il
sistema infatti conosciamo attraverso la ricerca
ci sono tipi specifici di informazioni
che aiutano gli utenti finali non esperti di questi
i sistemi interagiscono con capire e
programmare informazioni AI come perché o
perchè no
questo sistema prende una certa decisione
quale input prende il sistema per fare
le sue decisioni che tipo di decisioni sono
in realtà è capace di ciò che sarebbe il
sistema fare in un certo scenario come
fiducioso è il sistema della sua decisione
e quali controlli ho come l’utente ha
influenzare il processo decisionale di
il sistema e per aiutarlo a fare meglio e
nella mia ricerca l’ho proposto
le informazioni potrebbero essere generate usando
meta intelligenze, cioè
più piccole intelligenze periferiche che
guarda il principale programma AI e segnala
cosa hanno imparato a riguardo in alto
termini di livello e questi termini di alto livello
potrebbe essere presentato come grafici
illustrante la fiducia del
sistema o forse come immagini in a
allungando ciò che il sistema vede quando
guarda un’immagine o anche come naturale
testo della lingua ma il design di questi
livello più alto
così come quali controlli o affordances
l’utente deve agire su di loro è davvero
la chiave per il design di questi AI
sistemi ora ho abbastanza tempo per dirlo
tu una storia su una cosa che abbiamo
imparato a conoscere il design dei sistemi di intelligenza artificiale
attraverso la ricerca sono stato coinvolto in a
progetto a Microsoft dove eravamo
cercando di costruire un sistema di intelligenza artificiale che sembra
a video di pazienti con multiplo
la sclerosi si è comportata come standardizzata
movimenti clinici e valutare il
gravità della loro malattia ora multiplo
la sclerosi è una malattia dei motoneuroni e
il peggio è il più è difficile per
pazienti per eseguire lo standard
movimenti come il dito al naso
movimento a causa di cose come il tremore
e quindi il sistema avrebbe dovuto cercare
ai video dei pazienti e produrre un
punteggio di valutazione una gravità della malattia
punteggio su una scala da 0 a 4 per ciascuno di
loro con zero sono completamente normali
e per essere così compromesso non si poteva
completa il movimento e puoi
immagina quanto sia utile un sistema come questo
sarebbe perché ciò consentirebbe
i pazienti devono essere valutati molto di più
regolarmente che ha enormi
implicazioni per le decisioni di trattamento
permette loro di fare molto meglio
decisioni di trattamento e sistemi come
questo impara prima prendendo un mucchio di
esempi che sono già stati etichettati
da umani esperti, quindi abbiamo dovuto creare
un set di dati di apprendimento per il sistema in cui
ci eravamo già fatti dei neurologi
etichettare alcuni video con i loro appropriati
a tramite una gravità delle valutazioni di malattia e
siamo andati da un neurologo con il nostro
i video e il problema è che è così
concetto duro che anche i neurologi hanno
un momento difficile elaborare quali sono le valutazioni
dovrebbe essere così daremmo ai neurologi
lo stesso video e sarebbero solo d’accordo
con i punteggi degli altri circa il 60% di
il tempo
inoltre daremmo gli stessi neurologi
lo stesso video a diverse ore di distanza e
non sarebbero nemmeno d’ accordo con loro
valutazioni precedenti quindi abbiamo provato molte cose
per migliorare questa situazione proviamo a lavorare
con i neurologi per creare nuovi
le rubriche su come valutare questi video
abbiamo provato a selezionare i video gold standard
quello sarebbe esemplare di ciascuno dei
livelli di gravità severa in modo che così
quella
neurologi sarebbero in grado di fare riferimento a
qualcosa senza miglioramento di consistenza
la nostra soluzione ci ha richiesto veramente
ripensare il nostro approccio a tutto questo
problema l’osservazione chiave era quella
gli umani sono fondamentalmente migliori a
confrontando le cose di quante sono a
assegnare punteggi assoluti alle cose così
invece di far valutare ogni neurologo
ogni video separatamente abbiamo chiesto di dare
loro piccole serie di video e detto
ordinare questi video in base alle
la gravità della malattia e poi noi
sono stati in grado di prendere questi risultanti
ordini ed estrai lo zero a quattro
punteggi in scala da loro e questi
i punteggi risultanti erano molto di più
coerente di tutto ciò che abbiamo visto
prima ben oltre lo stato dell’arte
ben oltre gli standard clinici dell’oro
è stata una vera svolta sia per l’ intelligenza artificiale che per
bene come la neurologia ora potresti avere
notato che questo esempio è anche su
il sistema AI stesso riguarda i dati
ci nutriamo in esso, ma spero che questo solo
va a dimostrare che c’è un intero
storia al design di questi sistemi
quello succede prima e dopo questi
i sistemi entrano persino nell’immagine e nel nostro
approccio alla progettazione di questi sistemi
deve essere olistico, intendo pensare
quanto spesso ai tuoi umani viene chiesto di votare
tutto il tempo che ti viene chiesto di valutare
film o su prodotti Netflix su Amazon
ci piacciono i post sui social media come
per valutare le canzoni sul tuo streaming musicale
i servizi e gli esseri umani non si occupano di
assoluti
ci occupiamo di parenti e se richiesto
produrre punteggi assoluti possiamo ma questi
i punteggi sono spesso incoerenti o
senza senso, quindi come sarebbero tutti questi
i sistemi sembrano se invece ci fosse stato chiesto di farlo
confronta le canzoni per confrontare i video con
confronta i film per confrontare diversi post
per riassumere lo abbiamo imparato
la programmazione sta specificando il comportamento che abbiamo
ho imparato che l’intelligenza artificiale è come programmare e
dove parte dal tradizionale
la programmazione è dove il design dell’interazione
può intervenire per colmare le lacune in modo che il prossimo
tempo di leggere un articolo o ascoltare un discorso
su come l’intelligenza artificiale è ovunque e non possiamo
capiscilo
puoi conforto nel fatto che
il problema principale di trovare il giusto
metafore e il giusto livello di
l’astrazione non è nuova per il computer
la scienza l’ abbiamo già fatto prima
interfacce della riga di comando e con
interfacce utente grafiche e con
touchscreen e interfacce gestuali e
siamo in grado di farlo di nuovo ora non si ottiene me
è sbagliato è un problema di progettazione molto difficile
ma sono fiducioso che possa essere affrontato
attraverso l’applicazione di principio di
il nostro design della nostra comprensione di
design e psicologia umana e in ordine
per fare questo abbiamo bisogno di più
ricercatori interdisciplinari ci sono
persone che possono collegare il tecnico
aspetti dell’apprendimento automatico con il
aspetti sociali della ricerca dell’utente e del
aspetti artigianali dell’interaction design e
Non intendo solo che dovremmo avere di più
critiche di scienza sociale di IA che abbiamo
molti di quelli già in effetti questi
le critiche di un aya sono così distaccate da
le realtà tecniche di IA
sono spesso loro hanno confine con
facile e poco pratico e il contrario
è spesso anche vero quando AI
i ricercatori rispondono a human centric
critiche il risultato è spesso
riduttiva o Universalist assumendo
che qualche aspetto complesso dell’essere umano
l’esperienza può essere catturata aggiungendo
un altro parametro nel sistema ora
ci sono delle eccezioni ma il centro è vero
ha introdotto la competenza disciplinare
difficile da trovare quindi ecco il mio desiderio che voglio
più ricercatori di scienze sociali da fare
un vero sforzo per imparare a costruire e
progettare sistemi IA Voglio più AI
ai ricercatori di fare un vero sforzo per
impara le teorie e i metodi del sociale
scienza e design e insieme sono
fiducioso che costruiremo di più
computer accessibile e potente
interfacce ancora grazie
[Applausi]
Please follow and like us: