Biases: Human and Artificial | Galina Shubina | TEDxKTH

oh è una bella oscurità che vedo sopra
qui ciao vorrei iniziare facendo un
un piccolo esperimento di cinque secondi lo farei
come per te immaginare una persona dentro
Davanti a te questa persona è americana
professore di informatica uno due
tre quattro cinque ora vorrei quelli
di te che immagini gli uomini per aumentare il tuo
mani sì, è la maggioranza che penso
e quelli di voi che immaginate la donna
per favore alza le mani ne vedo alcuni
mani in alto è davvero fantastico e tu
ho appena dimostrato questa meravigliosa abilità
di un cervello umano per prendere cinque parole e
quindi immagina una persona completa di fronte
di te quindi il tuo cervello si è accumulato
nel corso degli anni una grande quantità di dati
e così è successo che il
maggioranza dei professori che abbiamo avuto
un ingegnere era probabilmente uomini e
quando guardi i nomi dei
libri di testo che abbiamo studiato lì
probabilmente anche gli uomini ed è per questo che quando
tu cerchi di generalizzare e il tuo cervello
generalizza in questo modo particolare tu
immagina un professore di computer di sesso maschile
scienza e ora ho delle diapositive che sono
giusto e volevo solo mostrare i miei due
preferito di professori di computer
scienza e alla tua sinistra questo è un
scala elisiana quindi è una professoressa di
criptologia alla Brown University e via
la sinistra è una sci da faccia in camera quindi lei è un
professore all’Università del Massachusetts
è avanti rispetto al linguaggio naturale
laboratorio di elaborazione e in realtà entrambi
Americani ma sono naturalizzati
i cittadini che hanno da dire come me loro
è venuto con i loro genitori dall’Unione Sovietica
Unione così un po ‘di stereotipo di zia se
così prendiamo un altro esempio
è il primo giorno della scuola svedese a
la donna viene a prendere i suoi figli
lei è sulla quarantina e lei è nera
capelli parla inglese con un divertente
accentate i bambini che sta raccogliendo
parla svedese perfetto se sei un
insegnante per presumere che è una bambinaia o
madre e si scopre se sei un insegnante
tu pensi che lei sia una bambinaia
sì e questa donna è in realtà io e
sono io che a settembre raccolgo il mio
i bambini da scuola e stare un po ‘
sorpreso da questo tipo di categorizzazione
ma questa è un’altra delle nostre capacità
meravigliosa capacità del nostro cervello umano a
Prendi una situazione per prenderla in modo equo
persona complessa che lavora e riduce
questa persona a pochi semplici
categorie di stereotipi se vuoi e
la cosa interessante è che è un
caratteristica evolutiva quindi usata
essere molto utile per il nostro uomo delle caverne
antenati per poter vedere una persona o
valuta una situazione super super velocemente
e decidere se è pericoloso o
non ma in questi giorni soprattutto in
paesi sviluppati questo non lo è
particolarmente utile in effetti un po ‘
un po ‘il contrario in alcuni casi così
il mio esempio di bambinaia è piuttosto benigno ma
consideriamo un altro esempio è il 2014
Il bambino di 12 anni sta giocando a
parco giochi ha una pistola giocattolo per alcuni
motivo per cui la polizia viene chiamata al
scena e entro due secondi dall’arrivo
sparano il ragazzo muore nel
ospedale il nome del Kiedis Tamir
riso e probabilmente hai sentito la storia
il ragazzo è nero e sfortunatamente
apparteneva a uno dei semplificati
categorie che ha certo negativo
associazione a se stesso nelle menti
di molte persone ora se chiedo a molti di voi
qui se sei razzista o se
pensi che le donne non possano fare programmazione
molti di voi direbbero di no
assolutamente no ma come si è scoperto il
la maggior parte di noi ha certi interni
credenze certe convinzioni inconsce
che contano questo da ottanta a novanta
percentuale di ciò che accade nel nostro cervello come
si scopre che è incosciente e lo è
davvero meraviglioso come siamo in grado di fare
cose istantaneamente bene con le nostre
cervelli come sono stati in grado di valutare il
situazioni ma allo stesso tempo questo
informazioni su questa elaborazione che facciamo
inconsciamente basato sui dati che noi
incontrato durante le nostre vite
ci porta in errore e quindi la domanda
diventa anche siamo in grado di capire
se abbiamo questo tipo di inconscio
pregiudizi perché non posso chiederti un
domande che ovviamente stai per dire
lo so e alla fine degli anni ’90 questo
è stato sviluppato un meraviglioso test chiamato
test di associazione implicito che può
misurare esattamente questo il modo in cui funziona è
come questo diciamo che ce ne sono due
categorie donne e uomini e diciamo
creiamo due serie di parole alcune di esse
riguardano la tecnologia e altri lo sono
su casa o casa facendo ora in
test di associazione implicito che ti viene richiesto
categorizzare donne e tecnologia e
uomini e casalinghe e poi misura
quanto tempo ci vuole e poi chiedi di farlo
categorizzare donne e casalinghe e uomini
e tecnologia e tu misura quanto tempo
prende e dipende da se uno
richiede più tempo dell’altro che conosci
che hai un pregiudizio implicito
verso l’una o l’altra cosa ora è
molto imbarazzante ma ci vuole due volte
lungo circa il doppio del tempo per
categorizzare le donne insieme a
tecnologia ed è imbarazzante perché
Ho lavorato per 12 anni nel settore tecnologico
e prima di questo sono stato al
Università per un tempo piuttosto lungo e
più o meno la stessa cosa succede quando
Cerco di vedere se associo il nero
le persone con cose buone o non così provano
si scopre che la maggior parte delle persone ha
questa credenza in un modo o nell’altro
sono le persone rare che non lo fanno e io trovo
che questo è davvero un’apertura all’occhio al
stesso tempo questa capacità del nostro cervello
fai questo tipo di generalizzazione da fare
cose molto rapidamente e valutare il
le situazioni sono davvero utili se si pensa
su come guidare un’auto ogni giorno come te
guidando si incontrano nuove situazioni e
eppure sei in grado di giudicare cosa sta succedendo
in loro per spiegare le cose da prevedere
dove stanno andando altre macchine e capire
avanti quello che dovresti fare dopo molto molto
rapidamente e vorremmo computer per
essere in grado di fare la stessa cosa e molto
questo è ciò che gli algoritmi di apprendimento automatico
dovrebbero essere in grado di farlo sono
dovrebbe essere in grado di generalizzare in a
modo simile al cervello umano
quindi siamo algoritmi di apprendimento automatico
utile è nelle situazioni in cui ci sono
non ci sono regole semplici in modo che tu possa adattarti
programma precisamente le regole e in
situazioni in cui è richiesto l’adattamento
quindi per esempio carta di credito fraudolenta
transazioni in cui i truffatori tengono
cambiando in che modo ottengono il
il sistema è molto utile per essere in grado di
adattare le cose in modo automatico
gli algoritmi sono come voi bambini
dai loro dati e imparano
da questi dati cosa sta succedendo e poi
si vuole essere in grado di dare loro una
pezzo di dati completamente nuovo e per loro
per essere in grado di spiegarlo usando i dati
hanno visto prima ed è molto bello
perché ci sono alcuni pregiudizi umani
di cui sono molti e molti quella macchina
gli algoritmi di apprendimento sono molto buoni
trattando per esempio c’è
bias di ancoraggio che dice che il molto
primo pezzo di dati che il cervello umano vede
si aggancerà e diventerà extra
importante, ecco perché non vuoi mai
essere il primo ad elencare uno stipendio nel
trattative durante durante il lavoro
negoziati ma sai allo stesso modo
tempo e ci sono altri tipi di cose
dove le cose diventano un po ‘di più
problematico quindi in generale lo sentiamo
le macchine non hanno opinioni e
quindi non sono di parte loro non possono
stereotipo sai che non sono loro
non sono umani e esattamente uguali
il modo in cui gli umani sono ma siamo noi a creare
queste cose e siamo noi ad adattarle
dati e ho intenzione di mostrarvi tre
diversi modi in cui l’apprendimento automatico
gli algoritmi possono diventare se vuoi
prevenuto, quindi uno di questi è il sottostante
bias dei dati quindi se dai se hai
informazioni su che tipo di lavoro
le donne ti tengono scoperto che le donne
tendono a tenere un sacco di più a basso reddito
lavori e se lo si utilizza come input per
algoritmo devi essere davvero bene
consapevole che potresti perpetuare il
bias potresti essere addestrato su cose che
non sono esattamente come le cose che vuoi
per guardare necessariamente nel futuro
o se stai cercando di capire chi
dare l’ipoteca e usi in 30
anni di ipoteca loro
da noi potresti scoprire che il tuo
l’algoritmo è un po ‘razzista perché
i dati sottostanti riflettono sistemico
razzismo, allora possiamo solo pensare a cosa
tipo di domande chiediamo al nostro
algoritmi da risolvere quindi dove vedi?
algoritmi di apprendimento automatico normalmente
vai su YouTube, alcuni di loro lo sono
tu su base giornaliera e ti conosci
guarda un video e poi suggerisce di farlo
tu il prossimo video bene che è bello o
la compagnia della carta di credito chiama e dice
oh tu la tua transazione con carta di credito è stata
negato perché pensiamo che sia fraudolento
beh, è ​​abbastanza utile se lo è
in realtà fraudolento o è possibile fornire
alcune informazioni agli insegnanti e dicono
questi bambini particolari nella tua classe
sono a rischio di abbandono
Dillo questo a te ora al
inizio della classe in modo da poter spendere
un po ‘più del tuo tempo prezioso con
loro è carino ma puoi anche
fare approssimativamente la stessa domanda ma
ora o prendi gli stessi bambini nella classe
e costruire un modello in cui vi diremo
quale di quei bambini diventerà
criminali più tardi nella tua vita nella loro
vive e poi ti stupisci
se vuoi andartene in questo
rapporto di minoranza tipo mondo dove tu
so che le macchine sono un po ‘
etico e cieco ma le domande che chiediamo
avere certe implicazioni etiche e noi
bisogno di essere ben consapevoli di loro una
terzo esempio è in termini di valutazione
di algoritmi così qualche volta l’anno scorso
scopre che le immagini di google che è
incredibilmente bravo a mettere le immagini
insieme in categorie di correlati
le immagini stavano mettendo insieme persone di colore
e scimmie nella stessa categoria
a volte e se ci pensi è
molto probabile che fossero questi algoritmi
sviluppato da ingegneri software bianchi
probabilmente uomini statisticamente parlando e
è molto probabile che durante il
fase di valutazione che probabilmente hanno esaminato
alcuni numeri ma certe cose no
venire su perché i loro album o il
album delle persone che stanno valutando
non avevano questi particolari tipi di
dati e questo solo parla al fatto
è molto importante averlo
gruppo di persone da sviluppare
tecnologia perché ci sono certi
cose in cui puoi ottenere buoni numeri
e buone raid aerei e cose come questa
ma è molto importante guardare per avere
in realtà un gruppo eterogeneo di persone
valutare i dati quindi ci sono modi per
affrontarlo nello stesso modo in cui il
I cervelli umani sono scatole nere e noi
non ne so abbastanza da ottanta a novanta
percentuale di ciò che sta accadendo in loro
sono anche gli algoritmi di apprendimento automatico
di solito scatole nere ma noi adesso
c’è una tendenza a renderlo semplicemente stupido
o bacio come una chiamata o verso spiegabile
algoritmo se ti viene negato un mutuo
un algoritmo oisin algoritmo di apprendimento
vuoi davvero sapere perché, quindi è buono
per iniziare a guardare dove vogliamo avere
modelli di apprendimento automatico in cui siamo in grado di
andare più tardi e in realtà spiegare quale
pezzi di dati di addestramento o cosa
pesi particolari ci hanno fatto negare il tuo
ipoteca quindi potremmo pensare se
abbiamo bisogno di aggiustare questo tipo di cose o
almeno così c’è una spiegazione
disponibile anche noi abbiamo davvero bisogno di fare
la nostra industria è un po ‘più diversificata
quindi questo tipo di cose come con google
le immagini non accadono davvero e penso
gli aspetti etici di che tipo di
domande che chiediamo e come e che tipo
delle cose che faremo diventerà molto
importante anche ora perché è questo
importante quindi abbiamo parlato dell’umano
pregiudizi e tu sai già se confondi
me per il mio inesistente 90 ad un certo punto
questo non è davvero un grosso problema chiaramente
ce ne sono molti se sei un ragazzino sparato a
un parco giochi che probabilmente sentiresti
piuttosto orribile sui pregiudizi umani ma
algoritmi di apprendimento automatico che siamo
sviluppando in questo momento possono influenzare
che un numero molto grande di persone così
l’impatto sarà enorme e questo
l’industria sta davvero esplodendo proprio ora
a causa della quantità di potenza della macchina
siamo in grado di portare a questo e al
quantità di dati sono stati in grado di addestrare il
gli algoritmi possiedono quindi è molto importante
inizia a guardare che tipo di domande
stiamo rispondendo a quanto sono importanti
due persone che molte persone mentono e
se sono di parte e quindi me ne vado
tu con un pensiero che dobbiamo lavorare
da soli
ISS ma anche come sviluppiamo la tecnologia di
il futuro, in particolare l’apprendimento automatico
tecnologia di stile che dobbiamo essere veramente
consapevole che può essere prevenuto in un modo
questo è molto simile in alcuni casi a
cervello umano anche e questo è tutto per me
[Applausi]