buona sera grazie a tutti per essere
qui sono così onorato di essere tra questi
altoparlanti stimati oggi sarò parlando
con te riguardo l’uso di algoritmi a
lavoro prima di iniziare il mio discorso lo farei
mi piace davvero parlarti di come
è nato questo interesse di ricerca così come
uno studente laureato stavo facendo il mio
dottorato presso la Columbia University I
era nel campo di intervistare precedentemente
persone incarcerate e un uomo aveva
davvero un momento difficile trovare lavoro e io
gli ho chiesto cosa diresti sia il
il più grande ostacolo tra voi e la ricerca
un lavoro e questo è quello che mi ha detto
computer cosa e poi mi sono ricordato
la maggior parte dei prigionieri o alcuni non lo sono
permesso di usare computer in prigione, così io
pensavo che me lo stesse dicendo davvero
era la sua mancanza di abilità informatiche
trattenerlo
scopre che in realtà non è quello che lui
stava dicendo davvero questo era quello che era
dicendo che ha detto che vorrei quando sono entrato in a
negozio potrei trovare un umano per consegnare il mio
riprendere e dire loro sì, sono stato
in prigione ho fatto degli errori ma tu
so che ho servito il mio tempo e non lo sono
quella stessa persona più
Sono un gran lavoratore che voglio ricongiungermi
società e se mi dai un secondo
caso invece sarò un buon lavoratore
dice che non ho mai incontrato nessun umano
i manager invece devo presentare il mio
riprendere online e quando invio il mio
Riprendi online c’è una scatola che ho
controllare per ammettere che sì, lo sono stato
condannato per un crimine e penso che
una volta che controllo questa casella la mia domanda è
automaticamente rifiutato
perché non ho mai sentito parlare di quella storia
rimase con me anche dopo aver completato il mio
dissertazione guardando l’ albero retto di
persone precedentemente incarcerate che raccontano
bloccato con me perché ero come aspettare
i computer dovrebbero fare società
la tecnologia migliore dovrebbe essere
rendere la società migliore ma qui era
qualcuno mi sta dicendo che in realtà
il loro caso stava facendo la loro vita
così difficile che è quello che mi ha portato alla
studio di algoritmi in particolare nel
posto di lavoro in America così prima di noi
immergiti in ciò che sono gli algoritmi che hai
ho sentito molto quella parola direi
di recente e probabilmente ti starai chiedendo
cosa fanno loro cosa sono veramente cosa
significa davvero che non lo sono
misterioso non sono mitici sono
gli algoritmi non magici sono davvero
processi step-by-step per la risoluzione
i problemi sono matematici
processi step-by-step per la risoluzione
problemi la differenza ora è quella
sono computerizzati e alcuni di loro lo sono
lavorato quello che ho chiamato machine learning in modo
cominciamo con l’abaco giusto il
l’abaco è una forma di moltiplicazione usata
sul posto di lavoro nel 17 °
secolo XVIII secolo, quindi un esempio è
l’anello abaco quindi questo è stato indossato sul
dito dei nostri mercanti e questo lo farebbe
abilitare i commercianti rapidamente
calcolare le sue transazioni commerciali
ora questo anello dell’abaco non potrebbe realmente
essere manipolato dalle dita umane era
così piccolo che doveva essere manipolato con
una piccola spilla indossata nei capelli così
potresti dire che questo è stato il primo
tecnologia indossabile giusto bene in avanti veloce a
il 21 ° secolo e ora abbiamo il
Anello intelligente
quindi questo anello mattutino puoi vedere come un
aggiornamento dell’abaco
ma ora lo squillo di Smarty può mostrarti
i tuoi messaggi di testo che potrebbe mostrarti
i tuoi messaggi e-mail che può mostrarti
chi sta chiamando e può anche misurare
la frequenza cardiaca in modo abbiamo fatto passi in
progressi tecnologici dal
il piccolo abaco suonò e la domanda è
questa tecnologia ci sta davvero avvantaggiando
è davvero un vantaggio per tutti così come
un filosofo etico ci ha detto una volta
non dovrebbe temere un diritto artificiale
l’intelligenza ci viene proposta come a
ottimo strumento per risolvere molte delle società
problemi che dovrebbe assicurare in a
età d’oro di Enoch di equità equità
efficienza ma forse c’è bisogno di
attenzione come hanno fatto gli eventi recenti
ci ha mostrato in particolare il Facebook
Cambridge e algoritmi di un caso di liquori
può anche essere usato per mal destra
gli algoritmi possono anche essere usati in modi che
non ci servono ma invece ci manipolano
approfittiamo invece dei dati noi
hanno affidato a società nel
interessi di voi sanno parlare con i nostri
gli amici sono socialmente giusti, quindi i nostri umani
impulsi a pura destra è essere
accumulato in big data che può ora
anche essere manipolato da algoritmi così
c’è bisogno di cautela ma
Il caso di Facebook e Cambridge è davvero
la punta dell’iceberg così da vedere e dentro
Infatti l’arena in cui dovremmo essere
più preoccupati di come sono gli algoritmi
usato è il posto di lavoro e questo no
davvero preso tanta attenzione come
problemi sui social media, per esempio
gli algoritmi stanno cambiando rapidamente il
luogo di lavoro e continuerà a farlo per
molti anni a venire e questo è un problema
perché è stato dimostrato che
gli algoritmi svolgono un ruolo nel mantenimento
disuguaglianza perché ricorda gli algoritmi
non sono mitici, non sono magici
sono solo matematici passo dopo passo
problemi di un processo passo-passo per
risolvere i problemi che significa che sono
davvero creato dagli umani così umani
determinare quali variabili possono andare in qualsiasi
dato il nostro algoritmo e che può essere un
problema se il modo in cui le variabili sono
scelti servono in realtà per mantenere
disuguaglianza o per beneficiare un gruppo sugli
un altro gruppo quindi considera per esempio
suona programmi di benessere sul posto di lavoro
una grande idea
giusto il tuo lavoro vuole che tu sia in salute
perché un lavoratore sano è un buono
lavoratore
così ti darò una storia che è
Walmart ha ingaggiato un programma per la produzione di noci
venditore allegria su un programma di noce e come
parte di quel programma benessere Castlight
incoraggiare i dipendenti a scaricare un atto
in cui tengono traccia dei loro farmaci
ora usando un algoritmo Castlight era
in grado di utilizzare i dati da quella app lei
essenzialmente concludere o prevedere
impiegati che stavano per
rimanere incinta o siamo già incinta
e come hanno fatto questo hanno fatto questo
semplicemente monitorando quando qualcuno si è fermato
usando il controllo delle nascite o quando qualcuno ha ottenuto
alcuni farmaci che modo di fertilità
droghe e apparentemente questo era in servizio
dei dipendenti perché poi potrebbero
invia loro promemoria o note su come
prendersi più cura di se stessi ma
questo solleva anche una domanda preoccupante
cosa succede se i datori di lavoro dei dipendenti non potevano
lavoratori che erano incinte o che stavano per
rimanere incinta quali sono i problemi di
discriminazione che potrebbe derivare da
che tutti sappiamo che le donne incinte sono
discriminato sul posto di lavoro
e infatti ci sono leggi sulla gravidanza
Discrimination Act che protegge
donne incinte dall’essere licenziato o essere
discriminati solo perché loro
sono incinta, ma non c’è legge
che protegge il nostro meglio fondamentalmente lo farebbe
proteggere le donne che stanno per ottenere
incinta quindi il fatto che l’algoritmo
stava predicendo non solo chi era incinta
ma anche chi era chi sarebbe stato percepito
in procinto di rimanere incinta
creato una scappatoia legale che i datori di lavoro
potrebbe potenzialmente trarne vantaggio
un’altra storia
ricorda quel ragazzo precedentemente incarcerato
Ti ho parlato di chi non è riuscito a trovare un lavoro
perché è stato automaticamente respinto da
algoritmi di assunzione bene e se lo stesso
stava succedendo ai lavoratori più anziani così
Il New York Times portava una storia che era
un’indagine di Pro Publica in cui
hanno trovato che sulla piattaforma Facebook così
Facebook ora ha una pagina web che è
unicamente
i datori di lavoro hanno avuto la possibilità di scegliere
gruppi target in modo che potessero scegliere il target
gruppi per età e alcuni datori di lavoro erano
targeting per i loro annunci di lavoro solo due persone
chi aveva meno di 40 anni, quindi in questo
Il New York Times riporta un uomo che aveva 58 anni
anni ed era stato disoccupato per
un bel po ‘di tempo nella sua zona c’erano
diversi annunci per lavori che stava bene
qualificato per ma non ha mai visto quegli annunci
perché non gli furono mai presentati
da Facebook a causa del targeting così
questo solleva questioni di ageism cosa
gli algoritmi sono usati essenzialmente per rifiutare
parti del nostro posto di lavoro solo
in base all’età e poi c’è il problema
di come gli algoritmi dettano come
le piattaforme sono progettate così te l’ho detto
già sulla tribù dell’età
il targeting ora lo consideri quando vai
per riempire compilare un online
domanda e tu vai per inserire il tuo
anno di laurea o vai a inserire il tuo
Data di nascita
alcune applicazioni online richiedono il tuo
la data non è presente, quindi è successo a
un uomo nello stato del Massachusetts
quando è andato a compilare un online
applicazione ha trovato che la nascita
le date si sono fermate solo al 1980, quindi cosa?
che segnale c’è che mandi e dimentichi ‘
segnale che potrebbe effettivamente non presentare il
domanda perché non poteva
entriamo nel suo compleanno che non era il 1980
era prima del 1980, quindi è così
davvero un modo molto sottile per eliminare
tutti i candidati oltre una certa età in
violazione della discriminazione fondata sull’età
in Employment Act quindi la domanda è perché
dovrebbe interessarti
le piattaforme ben automatizzate stanno prendendo il sopravvento
assumendo così tanti di voi qui studenti e
So che almeno il 90% di voi ha sì
ha già presentato un’applicazione online
e questo continuerà ad essere il caso
così essenzialmente tecnologico
i progressi stanno cambiando organizzativi
comportamento perché questi stanno assumendo
gli algoritmi sono società disponibili
ne approfittano perché perché
sono considerati efficienti quindi Goldman
Sachs per esempio sta per
test della personalità che è un altro modo di
automatizzare assunzioni in modo da ricordare che
l’assunzione automatica è una nuova tendenza per vasto
maggior parte dello spazio di lavoro al dettaglio ma
non è l’ unico spazio perché una volta
anche Goldman Sachs sta facendo il
lo stesso tranne che ora sono i test della personalità
che sono automatizzati così ora possono
eliminarti solo sulla base del tuo
test della personalità che cosa sei in realtà
aver mai avuto un’intervista dal vivo
intervista quindi questi algoritmi di assunzione
in realtà non assumono proprio loro
automatizza il rifiuto che stanno chiamando
sistemi in modo che siano visti come i
lavoro del datore di lavoro facile
anno perché ora non c’è bisogno di
dedicare risorse ad avere un grande HR
per leggere tutti i curriculum che loro
ricevere suoni grandiosi
ma pensiamo ad alcuni modi
che questo può andare storto come abbiamo detto
è l’analisi del riassunto in modo da poter analizzare
persone appena basate solo sull’età
fare qualcosa di semplice come dire di me
voglio solo le persone che si sono diplomate dopo un
certo anno per esempio un altro esempio
puoi analizzare i curriculum in base agli spazi vuoti in
impiego in modo da poter allenare il tuo
algoritmo per dire se hai un arresto
me dove c’è un divario tra
l’occupazione semplicemente rifiuta di riprendere il perché
potrebbe smentire la cosa problematica
riguardo alle donne che hanno preso tempo
del posto di lavoro per crescere i bambini cosa
sugli uomini che hanno fatto così cosa
riguardo alle persone che hanno preso tempo
prendersi cura di un parente malato che cosa
riguardo alle persone che erano malate e dovute
prendere tempo fuori dal posto di lavoro per ottenere
sani dovrebbero non avere un secondo
opportunità
per tornare al posto di lavoro curriculum
l’analisi può eliminare quelle persone
categoricamente e poi c’è l’idea
di pattern matching per riprende con
aiuto di algoritmo di assunzione che cosa fa
significo quindi per esempio io sono CEO di a
società e finora tutto il nostro
le persone ad alte prestazioni sono computer MIT
gli scienziati e dico bene dicono al nostro
Algoritmo di assunzione vogliamo più MIT
scienziati informatici è quello che siamo
cercando perché quelli sono i grandi
persone che abbiamo già perché è questo
pozzo problematico prima di tutto Cornell
gli informatici sono piuttosto bravi
giusto così stai già eliminando
persone che potrebbero già essere anche
potenzialmente buono come le persone te
già hanno inoltre ciò che è il
trucco demografico del computer del MIT
scienziati bene a molte delle élite
informatica informatica
scuole hai una predominanza di bianco
i maschi così qualcosa come apparentemente
innocuo o apparentemente basato sulla preferenza
in quanto la scelta solo dei laureati del MIT può effettivamente
risultato in un genere razziale e
squilibrio socioeconomico in chi sei
il pool di candidati o di assunzione in realtà è così
abbiamo bisogno di pensare a come questi
ci sono algoritmi di assunzione che ci sono
strumenti ma se lo si utilizza correttamente lo farebbero
non meglio il posto di lavoro ma lo farà
invece rinforza un po ‘ lo stesso
disuguaglianze che vediamo già nella nostra
società perché quando hai chiuso
regola oop , stiamo segnalando che sei giusto
sempre più dello stesso diritto in quanto
come stiamo usando algoritmi di assunzione
al momento non c’è responsabilità
meccanismo in cui le aziende sono effettivamente
obbligato a controllare gli algoritmi per vedere
come stanno in realtà lavorando in
termini di ideali sociali di inclusione
pari opportunità e correttezza quindi cosa c’è
il problema
pensiamoci ancora su alcuni
degli scienziati informatici nella stanza
potrebbe ridere di questo perché la macchina
gli algoritmi di apprendimento farebbero esattamente
ciò che vedono dai dati diritto
dati di addestramento per l’apprendimento automatico
gli algoritmi sono davvero importanti noi
ben presto gli algoritmi di apprendimento sono veramente simili
bambini e proprio come insegniamo ai nostri
i nostri pregiudizi o pregiudizi nostri
Mi piace e Non mi piace
insegneremo anche l’apprendimento automatico
algoritmi la stessa cosa e quindi abbiamo
fermarsi e considerare davvero come possiamo
obbligare le società di imprese a garantire
che stanno insegnando la loro macchina
algoritmi di apprendimento i giusti principi
quando si tratta in particolare di assumere così
questo significa riconoscere il ruolo del
diritto individuale perché qualcuno deve
addestrare questi algoritmi, quindi voglio dirlo
un’altra storia sulla meccanica
Turco così attualmente nella società un sacco di
tempi in cui un’azienda ha un esito negativo
mentre si usano algoritmi algoritmici a destra
la loro risposta a dire bene non l’abbiamo fatto
che l’algoritmo ha dato la colpa al
algoritmo in modo tale che fondamentalmente sta negando
il ruolo dell’individuo e il fatto
è l’individuo è sempre incinta
presente mi dispiace perché e forse lo sono
dicendo incinta a causa di ciò che il
Turk meccanico è davvero così potresti
hanno avuto un turk amazzonico, i lavoratori hanno ragione
chi sono dietro le quinte facendo il lavoro
che gli algoritmi non possono davvero fare altro che noi
vuole automatizzare il bene della meccanica
Turk quello originale esisteva nel
XVIII secolo e fu presentato come un
a scacchi era una macchina da gioco
automa automatico come era un
America Matic giocare a scacchi e
giocherebbe a scacchi con uomini di stato come
Napoleone come Benjamin Franklin e questo
sarebbero queste persone a scacchi e così
è stata presentata come questa incredibile macchina
che potrebbe battere gli umani si scopre un gioco di scacchi
non era automatico c’era un umano
nascosto dentro quella macchina da gioco degli scacchi
ed era un umano che faceva tutte le mosse
questo è simile all’apprendimento automatico
algoritmi simili agli algoritmi utilizzati in
sul posto di lavoro c’è un umano che decide
quali variabili deve assumere l’algoritmo
in considerazione nel prendere la sua decisione
c’è un umano che decide quale allenamento
dati
lei allenava l’algoritmo che c’è
un umano al centro di tutto ciò che se
Ti ho detto che il CEO sta per capo
responsabile dell’etica perché è un nuovo concetto
non dovresti avere ragione è un’etica
la cosa più importante per un’azienda in
termini di garanzia di buona volontà e fiducia
a destra si releghiamo etica ad un atto
di pensiero quando si tratta di
governance di aziende e imprese ma
davvero l’etica dovrebbe essere al top
tutto ciò che un’azienda sta facendo e
quando noi quando realizziamo questo interruttore
quando passiamo all’etica come guida
principio di tutto una società
allora questo creerà il nostro
gli ambienti penseremo davvero
deliberatamente e meditabondo su cosa
gli algoritmi stanno facendo sul posto di lavoro
e come vengono utilizzati
che cosa vengono utilizzati in un modo che è
etico per gli umani sul posto di lavoro
se vengono utilizzati in un modo simile
benefici per i lavoratori sul posto di lavoro
ora alcune persone potrebbero dire che siamo a
affari, stiamo per fare soldi
e se dobbiamo preoccuparci di tutto il
cose etiche giuste se non possiamo scegliere
chi pensiamo sia il più adatto per il lavoro
e non preoccuparti di chi sta ricevendo
escluso quindi non saremo
competitivo ma non è vero non lo è
una questione binaria di fare soldi contro
essere etici invece è essere etici
in realtà il percorso per fare soldi come
molte persone hanno lasciato Facebook dal momento che la
lo scandalo di Cambridge in America ha ragione
un po ‘ e che ne dici del tuffo in magazzino
per facebook dopo lo scandalo così
comportamento non etico per la nostra società
non sarà ricompensato a
considerazione della tecnologia non lo è
il diritto anti-business è essere umano
non è anti-etico per proteggere entrambi
possono esistere entrambi possono funzionare di pari passo così
qual è la mia conclusione per te oggi
hanno parlato di questi di
algoritmi sul posto di lavoro e alcuni di
i problemi che possono sorgere da come
sono usati in modi che non ne traggono beneficio
l’individuo o quello ignorano l’etica
principi anche se è solo all’interno del
legge
beh, la mia conclusione è muoversi lentamente e sistemare
cose che vogliamo progresso tecnologico
ma dovremmo essere il
libram nel pensare a come il
la tecnologia stava impiegando in particolare
nel posto di lavoro serve uomini e
ciò significa muoversi lentamente e questo significa
fare audit per esempio quando abbiamo un
algoritmo di assunzione che sta decidendo chi
arriva persino alla fase dell’intervista
dovrebbe onorare quell’algoritmo per vedere sono
c’è sudore di persone che stanno vivendo
escluso è l’algoritmo giusto in termini
di come sta decidendo chi dovrebbe farcela
passare la fase iniziale e infatti lo è
l’ algoritmo è anche efficiente perché noi
potrebbe pensare ad esempio assumere solo il MIT
i laureati sono efficienti ma è davvero possibile
ci sarà per esempio il computer Cornell
scienziati che sono altrettanto bravi o addirittura
meglio così la conclusione è davvero
il progresso tecnologico è grande ma
muovendo troppo velocemente può rompere un sacco di
le cose ti ringrazio molto
[Applausi]
qui sono così onorato di essere tra questi
altoparlanti stimati oggi sarò parlando
con te riguardo l’uso di algoritmi a
lavoro prima di iniziare il mio discorso lo farei
mi piace davvero parlarti di come
è nato questo interesse di ricerca così come
uno studente laureato stavo facendo il mio
dottorato presso la Columbia University I
era nel campo di intervistare precedentemente
persone incarcerate e un uomo aveva
davvero un momento difficile trovare lavoro e io
gli ho chiesto cosa diresti sia il
il più grande ostacolo tra voi e la ricerca
un lavoro e questo è quello che mi ha detto
computer cosa e poi mi sono ricordato
la maggior parte dei prigionieri o alcuni non lo sono
permesso di usare computer in prigione, così io
pensavo che me lo stesse dicendo davvero
era la sua mancanza di abilità informatiche
trattenerlo
scopre che in realtà non è quello che lui
stava dicendo davvero questo era quello che era
dicendo che ha detto che vorrei quando sono entrato in a
negozio potrei trovare un umano per consegnare il mio
riprendere e dire loro sì, sono stato
in prigione ho fatto degli errori ma tu
so che ho servito il mio tempo e non lo sono
quella stessa persona più
Sono un gran lavoratore che voglio ricongiungermi
società e se mi dai un secondo
caso invece sarò un buon lavoratore
dice che non ho mai incontrato nessun umano
i manager invece devo presentare il mio
riprendere online e quando invio il mio
Riprendi online c’è una scatola che ho
controllare per ammettere che sì, lo sono stato
condannato per un crimine e penso che
una volta che controllo questa casella la mia domanda è
automaticamente rifiutato
perché non ho mai sentito parlare di quella storia
rimase con me anche dopo aver completato il mio
dissertazione guardando l’ albero retto di
persone precedentemente incarcerate che raccontano
bloccato con me perché ero come aspettare
i computer dovrebbero fare società
la tecnologia migliore dovrebbe essere
rendere la società migliore ma qui era
qualcuno mi sta dicendo che in realtà
il loro caso stava facendo la loro vita
così difficile che è quello che mi ha portato alla
studio di algoritmi in particolare nel
posto di lavoro in America così prima di noi
immergiti in ciò che sono gli algoritmi che hai
ho sentito molto quella parola direi
di recente e probabilmente ti starai chiedendo
cosa fanno loro cosa sono veramente cosa
significa davvero che non lo sono
misterioso non sono mitici sono
gli algoritmi non magici sono davvero
processi step-by-step per la risoluzione
i problemi sono matematici
processi step-by-step per la risoluzione
problemi la differenza ora è quella
sono computerizzati e alcuni di loro lo sono
lavorato quello che ho chiamato machine learning in modo
cominciamo con l’abaco giusto il
l’abaco è una forma di moltiplicazione usata
sul posto di lavoro nel 17 °
secolo XVIII secolo, quindi un esempio è
l’anello abaco quindi questo è stato indossato sul
dito dei nostri mercanti e questo lo farebbe
abilitare i commercianti rapidamente
calcolare le sue transazioni commerciali
ora questo anello dell’abaco non potrebbe realmente
essere manipolato dalle dita umane era
così piccolo che doveva essere manipolato con
una piccola spilla indossata nei capelli così
potresti dire che questo è stato il primo
tecnologia indossabile giusto bene in avanti veloce a
il 21 ° secolo e ora abbiamo il
Anello intelligente
quindi questo anello mattutino puoi vedere come un
aggiornamento dell’abaco
ma ora lo squillo di Smarty può mostrarti
i tuoi messaggi di testo che potrebbe mostrarti
i tuoi messaggi e-mail che può mostrarti
chi sta chiamando e può anche misurare
la frequenza cardiaca in modo abbiamo fatto passi in
progressi tecnologici dal
il piccolo abaco suonò e la domanda è
questa tecnologia ci sta davvero avvantaggiando
è davvero un vantaggio per tutti così come
un filosofo etico ci ha detto una volta
non dovrebbe temere un diritto artificiale
l’intelligenza ci viene proposta come a
ottimo strumento per risolvere molte delle società
problemi che dovrebbe assicurare in a
età d’oro di Enoch di equità equità
efficienza ma forse c’è bisogno di
attenzione come hanno fatto gli eventi recenti
ci ha mostrato in particolare il Facebook
Cambridge e algoritmi di un caso di liquori
può anche essere usato per mal destra
gli algoritmi possono anche essere usati in modi che
non ci servono ma invece ci manipolano
approfittiamo invece dei dati noi
hanno affidato a società nel
interessi di voi sanno parlare con i nostri
gli amici sono socialmente giusti, quindi i nostri umani
impulsi a pura destra è essere
accumulato in big data che può ora
anche essere manipolato da algoritmi così
c’è bisogno di cautela ma
Il caso di Facebook e Cambridge è davvero
la punta dell’iceberg così da vedere e dentro
Infatti l’arena in cui dovremmo essere
più preoccupati di come sono gli algoritmi
usato è il posto di lavoro e questo no
davvero preso tanta attenzione come
problemi sui social media, per esempio
gli algoritmi stanno cambiando rapidamente il
luogo di lavoro e continuerà a farlo per
molti anni a venire e questo è un problema
perché è stato dimostrato che
gli algoritmi svolgono un ruolo nel mantenimento
disuguaglianza perché ricorda gli algoritmi
non sono mitici, non sono magici
sono solo matematici passo dopo passo
problemi di un processo passo-passo per
risolvere i problemi che significa che sono
davvero creato dagli umani così umani
determinare quali variabili possono andare in qualsiasi
dato il nostro algoritmo e che può essere un
problema se il modo in cui le variabili sono
scelti servono in realtà per mantenere
disuguaglianza o per beneficiare un gruppo sugli
un altro gruppo quindi considera per esempio
suona programmi di benessere sul posto di lavoro
una grande idea
giusto il tuo lavoro vuole che tu sia in salute
perché un lavoratore sano è un buono
lavoratore
così ti darò una storia che è
Walmart ha ingaggiato un programma per la produzione di noci
venditore allegria su un programma di noce e come
parte di quel programma benessere Castlight
incoraggiare i dipendenti a scaricare un atto
in cui tengono traccia dei loro farmaci
ora usando un algoritmo Castlight era
in grado di utilizzare i dati da quella app lei
essenzialmente concludere o prevedere
impiegati che stavano per
rimanere incinta o siamo già incinta
e come hanno fatto questo hanno fatto questo
semplicemente monitorando quando qualcuno si è fermato
usando il controllo delle nascite o quando qualcuno ha ottenuto
alcuni farmaci che modo di fertilità
droghe e apparentemente questo era in servizio
dei dipendenti perché poi potrebbero
invia loro promemoria o note su come
prendersi più cura di se stessi ma
questo solleva anche una domanda preoccupante
cosa succede se i datori di lavoro dei dipendenti non potevano
lavoratori che erano incinte o che stavano per
rimanere incinta quali sono i problemi di
discriminazione che potrebbe derivare da
che tutti sappiamo che le donne incinte sono
discriminato sul posto di lavoro
e infatti ci sono leggi sulla gravidanza
Discrimination Act che protegge
donne incinte dall’essere licenziato o essere
discriminati solo perché loro
sono incinta, ma non c’è legge
che protegge il nostro meglio fondamentalmente lo farebbe
proteggere le donne che stanno per ottenere
incinta quindi il fatto che l’algoritmo
stava predicendo non solo chi era incinta
ma anche chi era chi sarebbe stato percepito
in procinto di rimanere incinta
creato una scappatoia legale che i datori di lavoro
potrebbe potenzialmente trarne vantaggio
un’altra storia
ricorda quel ragazzo precedentemente incarcerato
Ti ho parlato di chi non è riuscito a trovare un lavoro
perché è stato automaticamente respinto da
algoritmi di assunzione bene e se lo stesso
stava succedendo ai lavoratori più anziani così
Il New York Times portava una storia che era
un’indagine di Pro Publica in cui
hanno trovato che sulla piattaforma Facebook così
Facebook ora ha una pagina web che è
unicamente
i datori di lavoro hanno avuto la possibilità di scegliere
gruppi target in modo che potessero scegliere il target
gruppi per età e alcuni datori di lavoro erano
targeting per i loro annunci di lavoro solo due persone
chi aveva meno di 40 anni, quindi in questo
Il New York Times riporta un uomo che aveva 58 anni
anni ed era stato disoccupato per
un bel po ‘di tempo nella sua zona c’erano
diversi annunci per lavori che stava bene
qualificato per ma non ha mai visto quegli annunci
perché non gli furono mai presentati
da Facebook a causa del targeting così
questo solleva questioni di ageism cosa
gli algoritmi sono usati essenzialmente per rifiutare
parti del nostro posto di lavoro solo
in base all’età e poi c’è il problema
di come gli algoritmi dettano come
le piattaforme sono progettate così te l’ho detto
già sulla tribù dell’età
il targeting ora lo consideri quando vai
per riempire compilare un online
domanda e tu vai per inserire il tuo
anno di laurea o vai a inserire il tuo
Data di nascita
alcune applicazioni online richiedono il tuo
la data non è presente, quindi è successo a
un uomo nello stato del Massachusetts
quando è andato a compilare un online
applicazione ha trovato che la nascita
le date si sono fermate solo al 1980, quindi cosa?
che segnale c’è che mandi e dimentichi ‘
segnale che potrebbe effettivamente non presentare il
domanda perché non poteva
entriamo nel suo compleanno che non era il 1980
era prima del 1980, quindi è così
davvero un modo molto sottile per eliminare
tutti i candidati oltre una certa età in
violazione della discriminazione fondata sull’età
in Employment Act quindi la domanda è perché
dovrebbe interessarti
le piattaforme ben automatizzate stanno prendendo il sopravvento
assumendo così tanti di voi qui studenti e
So che almeno il 90% di voi ha sì
ha già presentato un’applicazione online
e questo continuerà ad essere il caso
così essenzialmente tecnologico
i progressi stanno cambiando organizzativi
comportamento perché questi stanno assumendo
gli algoritmi sono società disponibili
ne approfittano perché perché
sono considerati efficienti quindi Goldman
Sachs per esempio sta per
test della personalità che è un altro modo di
automatizzare assunzioni in modo da ricordare che
l’assunzione automatica è una nuova tendenza per vasto
maggior parte dello spazio di lavoro al dettaglio ma
non è l’ unico spazio perché una volta
anche Goldman Sachs sta facendo il
lo stesso tranne che ora sono i test della personalità
che sono automatizzati così ora possono
eliminarti solo sulla base del tuo
test della personalità che cosa sei in realtà
aver mai avuto un’intervista dal vivo
intervista quindi questi algoritmi di assunzione
in realtà non assumono proprio loro
automatizza il rifiuto che stanno chiamando
sistemi in modo che siano visti come i
lavoro del datore di lavoro facile
anno perché ora non c’è bisogno di
dedicare risorse ad avere un grande HR
per leggere tutti i curriculum che loro
ricevere suoni grandiosi
ma pensiamo ad alcuni modi
che questo può andare storto come abbiamo detto
è l’analisi del riassunto in modo da poter analizzare
persone appena basate solo sull’età
fare qualcosa di semplice come dire di me
voglio solo le persone che si sono diplomate dopo un
certo anno per esempio un altro esempio
puoi analizzare i curriculum in base agli spazi vuoti in
impiego in modo da poter allenare il tuo
algoritmo per dire se hai un arresto
me dove c’è un divario tra
l’occupazione semplicemente rifiuta di riprendere il perché
potrebbe smentire la cosa problematica
riguardo alle donne che hanno preso tempo
del posto di lavoro per crescere i bambini cosa
sugli uomini che hanno fatto così cosa
riguardo alle persone che hanno preso tempo
prendersi cura di un parente malato che cosa
riguardo alle persone che erano malate e dovute
prendere tempo fuori dal posto di lavoro per ottenere
sani dovrebbero non avere un secondo
opportunità
per tornare al posto di lavoro curriculum
l’analisi può eliminare quelle persone
categoricamente e poi c’è l’idea
di pattern matching per riprende con
aiuto di algoritmo di assunzione che cosa fa
significo quindi per esempio io sono CEO di a
società e finora tutto il nostro
le persone ad alte prestazioni sono computer MIT
gli scienziati e dico bene dicono al nostro
Algoritmo di assunzione vogliamo più MIT
scienziati informatici è quello che siamo
cercando perché quelli sono i grandi
persone che abbiamo già perché è questo
pozzo problematico prima di tutto Cornell
gli informatici sono piuttosto bravi
giusto così stai già eliminando
persone che potrebbero già essere anche
potenzialmente buono come le persone te
già hanno inoltre ciò che è il
trucco demografico del computer del MIT
scienziati bene a molte delle élite
informatica informatica
scuole hai una predominanza di bianco
i maschi così qualcosa come apparentemente
innocuo o apparentemente basato sulla preferenza
in quanto la scelta solo dei laureati del MIT può effettivamente
risultato in un genere razziale e
squilibrio socioeconomico in chi sei
il pool di candidati o di assunzione in realtà è così
abbiamo bisogno di pensare a come questi
ci sono algoritmi di assunzione che ci sono
strumenti ma se lo si utilizza correttamente lo farebbero
non meglio il posto di lavoro ma lo farà
invece rinforza un po ‘ lo stesso
disuguaglianze che vediamo già nella nostra
società perché quando hai chiuso
regola oop , stiamo segnalando che sei giusto
sempre più dello stesso diritto in quanto
come stiamo usando algoritmi di assunzione
al momento non c’è responsabilità
meccanismo in cui le aziende sono effettivamente
obbligato a controllare gli algoritmi per vedere
come stanno in realtà lavorando in
termini di ideali sociali di inclusione
pari opportunità e correttezza quindi cosa c’è
il problema
pensiamoci ancora su alcuni
degli scienziati informatici nella stanza
potrebbe ridere di questo perché la macchina
gli algoritmi di apprendimento farebbero esattamente
ciò che vedono dai dati diritto
dati di addestramento per l’apprendimento automatico
gli algoritmi sono davvero importanti noi
ben presto gli algoritmi di apprendimento sono veramente simili
bambini e proprio come insegniamo ai nostri
i nostri pregiudizi o pregiudizi nostri
Mi piace e Non mi piace
insegneremo anche l’apprendimento automatico
algoritmi la stessa cosa e quindi abbiamo
fermarsi e considerare davvero come possiamo
obbligare le società di imprese a garantire
che stanno insegnando la loro macchina
algoritmi di apprendimento i giusti principi
quando si tratta in particolare di assumere così
questo significa riconoscere il ruolo del
diritto individuale perché qualcuno deve
addestrare questi algoritmi, quindi voglio dirlo
un’altra storia sulla meccanica
Turco così attualmente nella società un sacco di
tempi in cui un’azienda ha un esito negativo
mentre si usano algoritmi algoritmici a destra
la loro risposta a dire bene non l’abbiamo fatto
che l’algoritmo ha dato la colpa al
algoritmo in modo tale che fondamentalmente sta negando
il ruolo dell’individuo e il fatto
è l’individuo è sempre incinta
presente mi dispiace perché e forse lo sono
dicendo incinta a causa di ciò che il
Turk meccanico è davvero così potresti
hanno avuto un turk amazzonico, i lavoratori hanno ragione
chi sono dietro le quinte facendo il lavoro
che gli algoritmi non possono davvero fare altro che noi
vuole automatizzare il bene della meccanica
Turk quello originale esisteva nel
XVIII secolo e fu presentato come un
a scacchi era una macchina da gioco
automa automatico come era un
America Matic giocare a scacchi e
giocherebbe a scacchi con uomini di stato come
Napoleone come Benjamin Franklin e questo
sarebbero queste persone a scacchi e così
è stata presentata come questa incredibile macchina
che potrebbe battere gli umani si scopre un gioco di scacchi
non era automatico c’era un umano
nascosto dentro quella macchina da gioco degli scacchi
ed era un umano che faceva tutte le mosse
questo è simile all’apprendimento automatico
algoritmi simili agli algoritmi utilizzati in
sul posto di lavoro c’è un umano che decide
quali variabili deve assumere l’algoritmo
in considerazione nel prendere la sua decisione
c’è un umano che decide quale allenamento
dati
lei allenava l’algoritmo che c’è
un umano al centro di tutto ciò che se
Ti ho detto che il CEO sta per capo
responsabile dell’etica perché è un nuovo concetto
non dovresti avere ragione è un’etica
la cosa più importante per un’azienda in
termini di garanzia di buona volontà e fiducia
a destra si releghiamo etica ad un atto
di pensiero quando si tratta di
governance di aziende e imprese ma
davvero l’etica dovrebbe essere al top
tutto ciò che un’azienda sta facendo e
quando noi quando realizziamo questo interruttore
quando passiamo all’etica come guida
principio di tutto una società
allora questo creerà il nostro
gli ambienti penseremo davvero
deliberatamente e meditabondo su cosa
gli algoritmi stanno facendo sul posto di lavoro
e come vengono utilizzati
che cosa vengono utilizzati in un modo che è
etico per gli umani sul posto di lavoro
se vengono utilizzati in un modo simile
benefici per i lavoratori sul posto di lavoro
ora alcune persone potrebbero dire che siamo a
affari, stiamo per fare soldi
e se dobbiamo preoccuparci di tutto il
cose etiche giuste se non possiamo scegliere
chi pensiamo sia il più adatto per il lavoro
e non preoccuparti di chi sta ricevendo
escluso quindi non saremo
competitivo ma non è vero non lo è
una questione binaria di fare soldi contro
essere etici invece è essere etici
in realtà il percorso per fare soldi come
molte persone hanno lasciato Facebook dal momento che la
lo scandalo di Cambridge in America ha ragione
un po ‘ e che ne dici del tuffo in magazzino
per facebook dopo lo scandalo così
comportamento non etico per la nostra società
non sarà ricompensato a
considerazione della tecnologia non lo è
il diritto anti-business è essere umano
non è anti-etico per proteggere entrambi
possono esistere entrambi possono funzionare di pari passo così
qual è la mia conclusione per te oggi
hanno parlato di questi di
algoritmi sul posto di lavoro e alcuni di
i problemi che possono sorgere da come
sono usati in modi che non ne traggono beneficio
l’individuo o quello ignorano l’etica
principi anche se è solo all’interno del
legge
beh, la mia conclusione è muoversi lentamente e sistemare
cose che vogliamo progresso tecnologico
ma dovremmo essere il
libram nel pensare a come il
la tecnologia stava impiegando in particolare
nel posto di lavoro serve uomini e
ciò significa muoversi lentamente e questo significa
fare audit per esempio quando abbiamo un
algoritmo di assunzione che sta decidendo chi
arriva persino alla fase dell’intervista
dovrebbe onorare quell’algoritmo per vedere sono
c’è sudore di persone che stanno vivendo
escluso è l’algoritmo giusto in termini
di come sta decidendo chi dovrebbe farcela
passare la fase iniziale e infatti lo è
l’ algoritmo è anche efficiente perché noi
potrebbe pensare ad esempio assumere solo il MIT
i laureati sono efficienti ma è davvero possibile
ci sarà per esempio il computer Cornell
scienziati che sono altrettanto bravi o addirittura
meglio così la conclusione è davvero
il progresso tecnologico è grande ma
muovendo troppo velocemente può rompere un sacco di
le cose ti ringrazio molto
[Applausi]
Please follow and like us: