quando la cultura pop parla di AI loro
generalmente hanno qualcosa di simile in
attenzione a qualche robot Terminator che potrebbe
prendi il comando e uccidici tutti tranne quello che io
voglio parlarti di oggi sono i
algoritmi invisibili che sono dappertutto
le nostre vite ma non sono così glamour
come questo robot ma che penso di più
Ehi importante al momento è abituato
gestire la nostra potenza dei sistemi elettrici
sistemi che guidano sistemi di trading così
a volte vedi il mercato salire
giù e su di nuovo cercando di capire
chi assumere e chi non assumere e se
ti interessa sapere come
pervasivo questi algoritmi basati sui dati
sono nelle nostre vite e alcuni dei
conseguenze non intenzionali che potrebbero venire
a causa di quella pervasività I
consiglio di leggere le armi di massa
distruzione o automatizzazione della disuguaglianza ai
è usato anche nel nostro governo, quindi come
molti di voi hanno sentito parlare di questo 2016
Articolo repubblicano di cui si parlava
software che pretende di prevedere
la probabilità di qualcuno di commettere a
crimine di nuovo, quindi quanti di voi votano così
i giudici usano questa previsione come uno dei
input per decidere quanti anni a
condanna qualcuno in prigione per me
recentemente firmato qualcosa una lettera
contro qualcosa chiamato l’estremo
iniziativa di scommesse e questo è stato un
iniziativa proposta dall’immigrazione di ghiaccio
Il ghiaccio delle dogane è stato nel
notizie recenti e cosa stavano proponendo
era di collaborare con aziende tecnologiche a
analizzare il social network di qualcuno
attività e aiutarli a determinare
se questa persona sarebbe una buona
immigrato o meno se di questa persona
probabile che commetta un atto terroristico o no
se questa persona sarebbe una buona
cittadino ora voglio fermarmi qui
e dire che ci sono due domande che possiamo
chiedere a destra il primo è se o
non dovremmo avere strumenti che stanno facendo
questo in primo luogo, ma il secondo
la domanda che voglio affrontare oggi è quella
l’ IA attuale strumenti gli strumenti automatizzati
che dobbiamo fare questa operazione non sono
abbastanza robusto da essere usato come tale
scenari di scommesse quindi lascia che ti dia un
esempio un giovane palestinese si è svegliato
giorno e ha scritto buongiorno in arabo
Facebook e si è tradotto all’attacco
loro e all’inglese e israeliano
le autorità hanno guardato l’inglese
traduzione non hanno provato a vedere cosa
ha scritto in arabo e lo hanno arrestato
la lasciarono in seguito per lasciarlo andare ma
lo hanno arrestato e quindi questa idea di
le persone che non applicano le loro critiche
capacità di pensiero per gli algoritmi il modo
loro farebbero a te e io sono chiamato
pregiudizi di automazione e per me lo penso
la combinazione di bias di automazione con
questi errori sistemici che abbiamo dentro
i nostri strumenti sono molto pericolosi un altro strumento
a cui si potrebbe pensare di essere applicato
l’analisi sociale dei social network è is
i matrimoni di parole quindi pensate alla parola
Matrimoni come uno spazio in cui parole
sono considerati simili l’uno all’altro
sono più vicini in questo spazio che le parole
sono considerati diversi, quindi puoi
usa questi matrimoni per addestrare
rilevatori di analogie e il mio collega Adam
Cole I e i suoi collaboratori di recente
ha dimostrato che queste analogie possono essere in grado di
codificare pregiudizi sociali così ti darò
un esempio in modo da avere un uomo di analogia
a fratello come la donna è a sorella l’uomo è
per il re come le donne è per la regina l’uomo è
il dottore siccome le donne sono per nutrire perché vedere così
questo è quello che ti dà ma questo è il
è un pregiudizio sociale è il computer
programmatore come donna ci dà
casalinga quindi potresti chiederti perché va bene così
ci sono questi pregiudizi e questa cosa
chiamavano i matrimoni perché dovrei preoccuparmi
su questo bene puoi immaginare un
strumento automatizzato che viene utilizzato per
analizzare riprende bene quindi diciamo che sono un
reclutatore Sto cercando di trovare qualcuno che
è un programmatore di computer le cui abilità
sono vicini a qualcuno al computer
capacità di programmazione in modo da poter vedere le cose
come Java Python C ++ e il curriculum ma
Vedrò anche che questa persona è un
quarterback presso l’Università del Vermont
questo mi dice che questa persona è più probabile
di essere un maschio bianco e potrei avere un
curriculum simile con le stesse identiche qualifiche
ma questa persona ora è nella squadra di softball
capitano allo Spelman College che è un
HPC storicamente nero college così per
donne e quindi questa persona è più probabile
essere un capitano di softball femminile di colore
giusto così ora se ho questo strumento che è
dicendomi che la distanza di un nero
la programmazione da femmina a computer è molto
più alto dell’uomo poi il maschio bianco
quindi stai propagando questi pregiudizi
giusto quindi stiamo propagando pregiudizi e
modi che non capiamo nemmeno giusto
ora un altro strumento di cui voglio parlare
su questo è ancora una volta molto usato in
il governo nelle forze dell’ordine è faccia
riconoscimento quindi incoraggio tutti voi
leggi il rapporto sulla linea perpetua che
parla del fatto che uno su due
Gli adulti americani sono in qualche modo faccia a faccia
database di riconoscimento uno su due e una volta
ancora una volta abbiamo due domande qui
se dovremmo anche avere un tale
sistema di sorveglianza IA nel primo
posto ma la seconda cosa che voglio
parlare di se è o meno la faccia
strumenti di riconoscimento che attualmente abbiamo
sono abbastanza robusti da condurre tali
una sorveglianza
um in scenari di high stakes e my
la risposta è no, quindi tutti voi potreste aver sentito
su Google altamente pubblicizzato
foto che classificano alcune persone di colore in
gorilla e la mia collega toro gioia
limini e io avevamo un foglio di cui parlare
fondamentalmente descrivendo il fatto che
classificazione di genere commerciale
gli assistenti hanno tassi di errore molto elevati
soprattutto per le donne di pelle più scura
tonifica quindi qual è il genere
sistema di classificazione pensa come te
so che è un sistema lo mostro un’immagine
e mi dice il genere della faccia
nell’immagine va bene ho ancora mostrato di un
immagine di una faccia e mi dà solo un
la femmina maschio dell’etichetta binaria non fa
gestire qualsiasi altro tipo di identità a
tutto e anche con questo questo sé
costretto molto molto limitato
scenario di qui si vede così sto mostrando
i tassi di errore man mano che si oscurano e
tonalità più scura e pelle quindi diamo un’occhiata
IBM ad esempio per la pelle più leggera
gruppo hai tasso di errore del 5,1% e
poi si arriva al 46,8% che è quasi
tasso di errore casuale così i nostri strumenti
non sono abbastanza robusti da essere usati nel
modo in cui li stiamo usando in questo momento
non sappiamo quali erano i pregiudizi
propagando perché tutti questi piccoli
Gli strumenti di intelligenza artificiale sono messi insieme e
essere utilizzato in scenari molto high stakes
quindi quali sono le soluzioni che ho tutte
risposte
Non ho nessuna delle risposte, io
avere alcune idee per alcune parti del
soluzione così nella mia comunità nella mia
comunità di ricerca ci sono molti
persone tra cui me che ricerca
soluzioni tecniche così da baconare
nozione matematica di equità ma io
voglio dirlo prima ancora di arrivare
non possiamo ignorare social e
problemi strutturali non possiamo ignorare il
fatto che ci sono alcuni gruppi di
persone che sono pesantemente controllate da chi sono
i gruppi di persone che potrebbero essere
lesi da questi pregiudizi di
queste pratiche di sorveglianza e chi sono
i gruppi di persone che stanno creando
coinvolto nella creazione di questa tecnologia e
distribuendolo correttamente
questo non osservano come le persone che
sono sorvegliati e pesantemente controllati
e influenzato negativamente da questo
La tecnologia attualmente non abbiamo alcuna
regole o regolamenti o norme a
capire che tipo di strumenti puoi
usare per quale scopo e sto sostenendo
per le leggi e la documentazione standard così
Voglio chiudere dicendo un po ‘di
altre industrie sono state qui che non lo sono
il primo quindi, per esempio, vengo da
uno sfondo hardware e ho usato per
circuiti di progettazione e nei circuiti che abbiamo
qualcosa chiamato un foglio dati così ogni
componente da semplice come un resistore
tanto complicato quanto una CPU
qualcosa chiamato una scheda tecnica che dice
il funzionamento consigliato standard
caratteristiche disclaimer ecc nessuno
sentito parlare di una scheda tecnica non va bene
e sto sostenendo che penso che dobbiamo
avere schede tecniche per set di dati e alcuni
di questi strumenti automatici che sono in corso
usato in posti diversi che dobbiamo avere
informazioni sull’uso consigliato per
esempio se hai intenzione di usare il viso alto
algoritmi di riconoscimento per high-stakes
scenari che devono avere un molto
caratteristica diversa per alcuni giocattoli
applicazione abbiamo bisogno di avere degli standard
che descrivono questo e così i miei colleghi
e ho scritto una risciacquatura
Questo
idea e se sei interessato in esso è
chiamato Xena lei è per set di dati e tu
posso controllare il secondo settore I
voglio parlare è qualcosa che tutti noi
conosci bene l’ industria automobilistica
così quando le auto arrivarono sulla strada nel
noi non c’erano segnali di stop o
cinture di sicurezza o patenti di guida o ubriachi
leggi di guida o qualcosa del genere
e c’erano così tanti incidenti e
anche quando le cinture di sicurezza sono state legiferate in
1967 persone non volevano usarli così
doveva avere un grande social
campagne che cercano di convincere la gente a
usare le cinture di sicurezza e c’era questo problema
di pregiudizi e esiste ancora questo
problema di pregiudizi nelle automobili anche perché
alcuni di voi potrebbero conoscere quella macchina
i produttori stavano solo testando i loro
auto che usano manichini di sicurezza con
caratteristiche maschili prototipali così
poi si è conclusa con queste vetture che
stavano uccidendo in modo sproporzionato donne
e i bambini hanno ragione ed è stato molto molto
recentemente che il governo ha incaricato
che devono testare le loro auto con
manichini d’emergenza con una femmina prototipo
caratteristiche anche io sto parlando
circa alla fine degli anni ’90, quando dico molto
di recente infatti c’era un tribunale
opinione negli anni ’20 chiedendo se o non
l’automobile era intrinsecamente malvagia e
questo mi ricorda le conversazioni in corso
che stanno accadendo su AI se o
non come intrinsecamente malvagi sono i robot
ci ucciderà tutti ecc. quindi lo trovo molto
molto interessante e importante da percorrere
torna alla storia e guarda l’altro
industrie e tracciare alcuni paralleli
alla fine chiuderò parlando di
un settore molto importante che è il
settore sanitario, quindi alcuni di voi potrebbero
sapere che le prove cliniche non erano
non legale negli Stati Uniti e lì
c’erano anche molte droghe immorali
sperimentazione in corso
comunità emarginate così vulnerabili
persone persone di soldati di colore
prigionieri donne incinte ecc
e anche una volta c’era una procedura per
avere prove cliniche indovinate una volta
ancora una volta non c’era una legge che imponeva
che nella tua sperimentazione clinica avevi bisogno
avere persone di diversi gruppi
prima di testare il farmaco su diversi
gruppi prima di metterlo sul mercato
e che dovevi disaggregare tutto
i risultati di questi gruppi e di nuovo
è stato molto di recente che gli Stati Uniti
Il governo degli Stati ha incaricato che ciò avvenga
da fare
per le prove cliniche così ora hai
studi che dimostrano che 8 su 10
farmaci che sono stati tirati fuori
circolazione tra il 1997 e il 2001
le donne colpite in modo sproporzionato IT
ci sono voluti molti anni per mettere le norme
in atto in queste industrie e siamo
ancora soffrendo per i pregiudizi che
sono stati propagati in questi altri
industrie quindi dovremmo imparare da queste
altre industrie e non fare lo stesso
cosa esatta con IA dovremmo avere
guardrail sul posto e dovremmo fare
sicuro che il gruppo di persone coinvolte
nel creare la tecnologia assomigliano al
persone che stanno usando la tecnologia
grazie
tu
generalmente hanno qualcosa di simile in
attenzione a qualche robot Terminator che potrebbe
prendi il comando e uccidici tutti tranne quello che io
voglio parlarti di oggi sono i
algoritmi invisibili che sono dappertutto
le nostre vite ma non sono così glamour
come questo robot ma che penso di più
Ehi importante al momento è abituato
gestire la nostra potenza dei sistemi elettrici
sistemi che guidano sistemi di trading così
a volte vedi il mercato salire
giù e su di nuovo cercando di capire
chi assumere e chi non assumere e se
ti interessa sapere come
pervasivo questi algoritmi basati sui dati
sono nelle nostre vite e alcuni dei
conseguenze non intenzionali che potrebbero venire
a causa di quella pervasività I
consiglio di leggere le armi di massa
distruzione o automatizzazione della disuguaglianza ai
è usato anche nel nostro governo, quindi come
molti di voi hanno sentito parlare di questo 2016
Articolo repubblicano di cui si parlava
software che pretende di prevedere
la probabilità di qualcuno di commettere a
crimine di nuovo, quindi quanti di voi votano così
i giudici usano questa previsione come uno dei
input per decidere quanti anni a
condanna qualcuno in prigione per me
recentemente firmato qualcosa una lettera
contro qualcosa chiamato l’estremo
iniziativa di scommesse e questo è stato un
iniziativa proposta dall’immigrazione di ghiaccio
Il ghiaccio delle dogane è stato nel
notizie recenti e cosa stavano proponendo
era di collaborare con aziende tecnologiche a
analizzare il social network di qualcuno
attività e aiutarli a determinare
se questa persona sarebbe una buona
immigrato o meno se di questa persona
probabile che commetta un atto terroristico o no
se questa persona sarebbe una buona
cittadino ora voglio fermarmi qui
e dire che ci sono due domande che possiamo
chiedere a destra il primo è se o
non dovremmo avere strumenti che stanno facendo
questo in primo luogo, ma il secondo
la domanda che voglio affrontare oggi è quella
l’ IA attuale strumenti gli strumenti automatizzati
che dobbiamo fare questa operazione non sono
abbastanza robusto da essere usato come tale
scenari di scommesse quindi lascia che ti dia un
esempio un giovane palestinese si è svegliato
giorno e ha scritto buongiorno in arabo
Facebook e si è tradotto all’attacco
loro e all’inglese e israeliano
le autorità hanno guardato l’inglese
traduzione non hanno provato a vedere cosa
ha scritto in arabo e lo hanno arrestato
la lasciarono in seguito per lasciarlo andare ma
lo hanno arrestato e quindi questa idea di
le persone che non applicano le loro critiche
capacità di pensiero per gli algoritmi il modo
loro farebbero a te e io sono chiamato
pregiudizi di automazione e per me lo penso
la combinazione di bias di automazione con
questi errori sistemici che abbiamo dentro
i nostri strumenti sono molto pericolosi un altro strumento
a cui si potrebbe pensare di essere applicato
l’analisi sociale dei social network è is
i matrimoni di parole quindi pensate alla parola
Matrimoni come uno spazio in cui parole
sono considerati simili l’uno all’altro
sono più vicini in questo spazio che le parole
sono considerati diversi, quindi puoi
usa questi matrimoni per addestrare
rilevatori di analogie e il mio collega Adam
Cole I e i suoi collaboratori di recente
ha dimostrato che queste analogie possono essere in grado di
codificare pregiudizi sociali così ti darò
un esempio in modo da avere un uomo di analogia
a fratello come la donna è a sorella l’uomo è
per il re come le donne è per la regina l’uomo è
il dottore siccome le donne sono per nutrire perché vedere così
questo è quello che ti dà ma questo è il
è un pregiudizio sociale è il computer
programmatore come donna ci dà
casalinga quindi potresti chiederti perché va bene così
ci sono questi pregiudizi e questa cosa
chiamavano i matrimoni perché dovrei preoccuparmi
su questo bene puoi immaginare un
strumento automatizzato che viene utilizzato per
analizzare riprende bene quindi diciamo che sono un
reclutatore Sto cercando di trovare qualcuno che
è un programmatore di computer le cui abilità
sono vicini a qualcuno al computer
capacità di programmazione in modo da poter vedere le cose
come Java Python C ++ e il curriculum ma
Vedrò anche che questa persona è un
quarterback presso l’Università del Vermont
questo mi dice che questa persona è più probabile
di essere un maschio bianco e potrei avere un
curriculum simile con le stesse identiche qualifiche
ma questa persona ora è nella squadra di softball
capitano allo Spelman College che è un
HPC storicamente nero college così per
donne e quindi questa persona è più probabile
essere un capitano di softball femminile di colore
giusto così ora se ho questo strumento che è
dicendomi che la distanza di un nero
la programmazione da femmina a computer è molto
più alto dell’uomo poi il maschio bianco
quindi stai propagando questi pregiudizi
giusto quindi stiamo propagando pregiudizi e
modi che non capiamo nemmeno giusto
ora un altro strumento di cui voglio parlare
su questo è ancora una volta molto usato in
il governo nelle forze dell’ordine è faccia
riconoscimento quindi incoraggio tutti voi
leggi il rapporto sulla linea perpetua che
parla del fatto che uno su due
Gli adulti americani sono in qualche modo faccia a faccia
database di riconoscimento uno su due e una volta
ancora una volta abbiamo due domande qui
se dovremmo anche avere un tale
sistema di sorveglianza IA nel primo
posto ma la seconda cosa che voglio
parlare di se è o meno la faccia
strumenti di riconoscimento che attualmente abbiamo
sono abbastanza robusti da condurre tali
una sorveglianza
um in scenari di high stakes e my
la risposta è no, quindi tutti voi potreste aver sentito
su Google altamente pubblicizzato
foto che classificano alcune persone di colore in
gorilla e la mia collega toro gioia
limini e io avevamo un foglio di cui parlare
fondamentalmente descrivendo il fatto che
classificazione di genere commerciale
gli assistenti hanno tassi di errore molto elevati
soprattutto per le donne di pelle più scura
tonifica quindi qual è il genere
sistema di classificazione pensa come te
so che è un sistema lo mostro un’immagine
e mi dice il genere della faccia
nell’immagine va bene ho ancora mostrato di un
immagine di una faccia e mi dà solo un
la femmina maschio dell’etichetta binaria non fa
gestire qualsiasi altro tipo di identità a
tutto e anche con questo questo sé
costretto molto molto limitato
scenario di qui si vede così sto mostrando
i tassi di errore man mano che si oscurano e
tonalità più scura e pelle quindi diamo un’occhiata
IBM ad esempio per la pelle più leggera
gruppo hai tasso di errore del 5,1% e
poi si arriva al 46,8% che è quasi
tasso di errore casuale così i nostri strumenti
non sono abbastanza robusti da essere usati nel
modo in cui li stiamo usando in questo momento
non sappiamo quali erano i pregiudizi
propagando perché tutti questi piccoli
Gli strumenti di intelligenza artificiale sono messi insieme e
essere utilizzato in scenari molto high stakes
quindi quali sono le soluzioni che ho tutte
risposte
Non ho nessuna delle risposte, io
avere alcune idee per alcune parti del
soluzione così nella mia comunità nella mia
comunità di ricerca ci sono molti
persone tra cui me che ricerca
soluzioni tecniche così da baconare
nozione matematica di equità ma io
voglio dirlo prima ancora di arrivare
non possiamo ignorare social e
problemi strutturali non possiamo ignorare il
fatto che ci sono alcuni gruppi di
persone che sono pesantemente controllate da chi sono
i gruppi di persone che potrebbero essere
lesi da questi pregiudizi di
queste pratiche di sorveglianza e chi sono
i gruppi di persone che stanno creando
coinvolto nella creazione di questa tecnologia e
distribuendolo correttamente
questo non osservano come le persone che
sono sorvegliati e pesantemente controllati
e influenzato negativamente da questo
La tecnologia attualmente non abbiamo alcuna
regole o regolamenti o norme a
capire che tipo di strumenti puoi
usare per quale scopo e sto sostenendo
per le leggi e la documentazione standard così
Voglio chiudere dicendo un po ‘di
altre industrie sono state qui che non lo sono
il primo quindi, per esempio, vengo da
uno sfondo hardware e ho usato per
circuiti di progettazione e nei circuiti che abbiamo
qualcosa chiamato un foglio dati così ogni
componente da semplice come un resistore
tanto complicato quanto una CPU
qualcosa chiamato una scheda tecnica che dice
il funzionamento consigliato standard
caratteristiche disclaimer ecc nessuno
sentito parlare di una scheda tecnica non va bene
e sto sostenendo che penso che dobbiamo
avere schede tecniche per set di dati e alcuni
di questi strumenti automatici che sono in corso
usato in posti diversi che dobbiamo avere
informazioni sull’uso consigliato per
esempio se hai intenzione di usare il viso alto
algoritmi di riconoscimento per high-stakes
scenari che devono avere un molto
caratteristica diversa per alcuni giocattoli
applicazione abbiamo bisogno di avere degli standard
che descrivono questo e così i miei colleghi
e ho scritto una risciacquatura
Questo
idea e se sei interessato in esso è
chiamato Xena lei è per set di dati e tu
posso controllare il secondo settore I
voglio parlare è qualcosa che tutti noi
conosci bene l’ industria automobilistica
così quando le auto arrivarono sulla strada nel
noi non c’erano segnali di stop o
cinture di sicurezza o patenti di guida o ubriachi
leggi di guida o qualcosa del genere
e c’erano così tanti incidenti e
anche quando le cinture di sicurezza sono state legiferate in
1967 persone non volevano usarli così
doveva avere un grande social
campagne che cercano di convincere la gente a
usare le cinture di sicurezza e c’era questo problema
di pregiudizi e esiste ancora questo
problema di pregiudizi nelle automobili anche perché
alcuni di voi potrebbero conoscere quella macchina
i produttori stavano solo testando i loro
auto che usano manichini di sicurezza con
caratteristiche maschili prototipali così
poi si è conclusa con queste vetture che
stavano uccidendo in modo sproporzionato donne
e i bambini hanno ragione ed è stato molto molto
recentemente che il governo ha incaricato
che devono testare le loro auto con
manichini d’emergenza con una femmina prototipo
caratteristiche anche io sto parlando
circa alla fine degli anni ’90, quando dico molto
di recente infatti c’era un tribunale
opinione negli anni ’20 chiedendo se o non
l’automobile era intrinsecamente malvagia e
questo mi ricorda le conversazioni in corso
che stanno accadendo su AI se o
non come intrinsecamente malvagi sono i robot
ci ucciderà tutti ecc. quindi lo trovo molto
molto interessante e importante da percorrere
torna alla storia e guarda l’altro
industrie e tracciare alcuni paralleli
alla fine chiuderò parlando di
un settore molto importante che è il
settore sanitario, quindi alcuni di voi potrebbero
sapere che le prove cliniche non erano
non legale negli Stati Uniti e lì
c’erano anche molte droghe immorali
sperimentazione in corso
comunità emarginate così vulnerabili
persone persone di soldati di colore
prigionieri donne incinte ecc
e anche una volta c’era una procedura per
avere prove cliniche indovinate una volta
ancora una volta non c’era una legge che imponeva
che nella tua sperimentazione clinica avevi bisogno
avere persone di diversi gruppi
prima di testare il farmaco su diversi
gruppi prima di metterlo sul mercato
e che dovevi disaggregare tutto
i risultati di questi gruppi e di nuovo
è stato molto di recente che gli Stati Uniti
Il governo degli Stati ha incaricato che ciò avvenga
da fare
per le prove cliniche così ora hai
studi che dimostrano che 8 su 10
farmaci che sono stati tirati fuori
circolazione tra il 1997 e il 2001
le donne colpite in modo sproporzionato IT
ci sono voluti molti anni per mettere le norme
in atto in queste industrie e siamo
ancora soffrendo per i pregiudizi che
sono stati propagati in questi altri
industrie quindi dovremmo imparare da queste
altre industrie e non fare lo stesso
cosa esatta con IA dovremmo avere
guardrail sul posto e dovremmo fare
sicuro che il gruppo di persone coinvolte
nel creare la tecnologia assomigliano al
persone che stanno usando la tecnologia
grazie
tu
Please follow and like us: