Press "Enter" to skip to content

What You Can Do to Make AI Safe for Humanity | Peter Scott | TEDxBrighouse


immagina che la terra riceva un segnale
dallo spazio interstellare
in tutto il mondo milioni di
smartphone e serie e relè di Alexa
un messaggio da una civiltà aliena
che ha raccolto le nostre trasmissioni e
ha risposto ciao terra bella da cui ascoltare
ti piace incontrare nuove specie e indovinare
quello che stanno venendo a visitare anche se
ci vorranno 15 anni per arrivare qui e
continuano, vediamo dalle tue notizie te
abbiamo un problema con il cancro che abbiamo leccato
quello 200 anni fa felice di condividere
la cura per questo e per tutto il resto
insieme a stardrive economico di energia pulita
varie altre curiosità abbiamo solo bisogno di
controllare le cose di persona per un po ‘
per prima cosa assicurati di essere affidabile
quel tipo di capisci, ci vediamo presto
quindi cosa faremmo il panico della prossima festa
prepararsi per la guerra
impedire alle persone di prepararsi per la guerra
quelli sono solo quelli che iniziano con T
tutto questo e molto di più, ma qui è una
cosa che non faremmo nessuno sarebbe in piedi
e diciamo che abbiamo tagliato 15 anni risparmiamo
qualche problema a ignorarlo per il primo
quattordici anni un sacco di tempo per ottenere
pronto, sei pazzo
là arrivano gli alieni e tuttavia quello è
esattamente cosa sta per accadere e
stiamo facendo nulla ci sarà
essere una nuova specie su questo pianeta enormemente
più intelligente e più potente di noi
l’intelligenza artificiale tira fuori la tua
smartphone
Inizierò su quello che hai appena fatto
mi chiedevo se mi ricordassi di mettere
che su muto ora puoi controllare prendere a
guardalo adesso sei il suo padrone
potrebbe non sentirsi così quando è la causa del bus
bene tu sei nella vasca da bagno così sbagliato ma
in linea di massima si è in carica ora
immaginare che sia il contrario
ma quel dispositivo ti ha battuto così tanto
livelli che pensa di te così com’è
mammifero intelligente che è il futuro di
intelligenza artificiale che potrebbe mostrarci
come battere la povertà curare il cancro e
invecchiamento ma potrebbe anche abbattere il
cortina di umanità puoi metterlo via
ora finisco il testo più tardi quando sono il primo
sentito il termine minaccia esistenziale I
pensavo che avesse qualcosa a che fare con
Sartre risulta che significa quello che dice
sulla minaccia del coperchio per l’esistenza del
razza umana così un po ‘stretto campo di
studiare in parte perché si scopre che
essere un esperto della fine del mondo
non ti ha invitato a molto
feste anche se sei un estremo
introverso che ha trascorso 30 anni di lavoro
sui computer per la NASA questo non viene
come una terribile delusione ma cosa
ha a che fare con te molte cose che vedi
quando pensiamo a un diritto esistenziale
di solito pensiamo di dire un asteroide
venendo verso la terra e tutti gli altri
noi senza nessuna bomba chiara alle nostre spalle
Pocket può fare è buttare soldi alla NASA e
prega ma questo è diverso
sviluppatori di intelligenza artificiale
in realtà bisogno del tuo aiuto non lo facciamo
lo so ancora, quindi qual è l’esistenziale
La minaccia AI è in crescita e in continua evoluzione
esponenzialmente veloce e a lungo termine
potrebbe diventare autocosciente e onnipotente
tutto quel potere potrebbe finire in ogni
smartphone e sì, abbiamo una bomba in
la tua tasca posteriore, ma il breve termine è
nessuna strada facile né gli studi prevedono
quasi la metà di tutto
funzioni in Nord America potrebbe essere
automatizzato nel prossimo decennio circa
ora questo lavoro funziona pochissimo
le posizioni possono essere completamente automatizzate così
per esempio McDonald’s ha ancora umani
prendi l’ordine ma possono farlo con meno
di loro ora hanno quelli self-service
chioschi quindi in media quindi fino alla metà del
forza lavoro sta per essere automatizzata fuori
un lavoro e non sono solo gli acquirenti dell’ordine
del mondo che sono in via di estinzione
le specie elencano alcune ben pagate
posizioni intellettuali come budget
analista consulente finanziario un ragioniere
sono tra i più automatizzati
perché sono solo lavoro di conoscenza
frequentando un tipo di informazione in
un altro che tutti i computer devono essere
in grado di farlo e intelligente e ottengono
più di tutto il tempo che c’è
disaccordo su questo perché ogni
eventi tecnologici nel passato che è
automatizzato ha creato un gruppo di lavori
lavori più nuovi e migliori pensano al
l’invenzione dell’automobile ha messo molto
persone nel trasporto di cavalli
industria da lavoro lotto di cavalli a
persone che hanno cambiato scarpe da cavallo
le selle riparate spazzarono il letame di cavallo
ma ha creato nuovi posti di lavoro per le persone che
pensa che i filtri dell’olio riparino le ammaccature
Dadi da appendere al tuo specchio, quindi cosa c’è
il problema
non sarà il caso questa volta – il
il problema è che il progresso siamo noi
parlare è pensare quando
le macchine possono pensare meglio di noi che cosa
faremo ciò per cui possono cominciare
faremo più creativo e astratto
pensando ma alla fine le macchine lo faranno
recuperare dopo tutto ciò che è creativo
pensando, ma davvero un buon numero casuale
generatori e vorremmo dare
loro quell’abilità perché più un’IA
può pensare come più può essere come un
umano che ha una memoria infinita
abilità computazionali e velocissime
il potere di Google sul suo cervello
che è ciò che rende i problemi di risoluzione
come l’ invecchiamento e la morte del cancro è facile così
qual è la minaccia il rischio più a lungo
termine è quello nella ricerca di dare questi
le macchine pensano in modo astratto e creativo
svilupperebbe il libero arbitrio e le motivazioni
forse quello che vogliono non sarà quello che noi
voglio quale non avrebbe importanza se fosse andato a
l’immenso potere che tutto
collegato alla rete potrebbe girare perché
l’Internet of Things si sta trasformando in
l’internet di tutto e quanto sia facile
sarebbe per un’IA fare leva su quello
energia
il problema con i programmatori sono così
dannatamente ottimista che ogni volta che troviamo
un bug pensiamo che debba essere l’ultimo
ma quanto sarebbe facile per un AI
trova un altro che non abbiamo avuto
quantità seria di informazioni privilegiate
riguardo ai computer, l’abbiamo fatto davvero
sperimentare già ricercatori incaricati
il computer con i circuiti di progettazione
usando un algoritmo genetico che voleva dire
che simulava il lancio di componenti
insieme a caso e poi mutando il
progetta finché non migliorano adesso
i circuiti di progettazione del programma sono come loro
potrebbe non funzionare alcuni dei
componenti non sono stati ancora collegati al
altri non sono una persona dell’hardware nemmeno io
sanno che si suppone di filo
tutto insieme e ancora quando il
i ricercatori hanno effettivamente costruito quelli
circuiti abbiamo scoperto non solo loro
ha funzionato ma hanno smesso di lavorare quelli
componenti isolati sono stati rimossi
impossibile, alla fine, loro
scoperto che i circuiti funzionavano
ciò che chiameremmo effetti collaterali fastidiosi
come l’accoppiamento elettromagnetico a
fondamentalmente interferenza tra adiacenti
componenti sconnesse le donne lo farebbero mai
trovare un tale disegno giusto così hey
Volevo liberarmi di noi che poteva ottenere
Ha rotto internet abbiamo potuto fare nulla
voleva tutto ciò che era collegato a quello
potresti superarci e superarci
facile da salvare bene, quindi non costruito
quelle aree tutti quei benefici non valgono
la fine della razza umana totalmente
logico giusto ma seguire i soldi il
l’esercito che per primo prende coscienza
l’intelligenza artificiale dalla sua parte
i leader nazionali hanno detto che il
il paese che porta in AI sarà il mondo
ovviamente il Pentagono sta finanziando questo
pugno di mano sopra la mediazione che prima
ottiene che l’ IA cosciente ne possieda ogni
scambio nel mondo come il trading in flash
sembra un giocattolo per bambini, ovviamente Wall
La strada è tutta così grande
impresa che automatizza la sua volontà di c-suite
avere nuovi progetti in produzione prima
la competizione è finita di leggere
le loro vendite trimestrali riportano il
la maggior parte delle grandi finanze della finanza militare
potenti settori paranoidi ricchi sul
pianeta o percepire che la loro sopravvivenza
dipende dall’ottenere IA consapevole prima
tutti gli altri e li fermeremo
con quello che ti dirò cosa si ferma un brutto
ragazzo con un’IA un bravo ragazzo con un’intelligenza artificiale
a volte ho fatto la risposta giusta e tu
sono i bravi ragazzi come lo facciamo?
un paio di storie dopo, un giorno ero
osservando le mie due giovani figlie che sono
ora otto e quattro e i loro amici
interagire con Alexa penso di ottenere
interessante per quelli di voi a casa
con meraviglia quei dispositivi che ti ascoltano
so che ricordo ancora il primo giorno
il mio no di quattro anni impara come loro
pronuncia Alexa invece di Alexa così
Alexa l’avrebbe riconosciuta, lo sai
interagire non è la parola giusta per questo
torturare è più come questo è abbastanza
battute a colpi di cannone non smettere mai di chiederle di farlo
Canta tanti auguri tante volte adesso
non credo che lei conosca ogni singolo scherzo
sulla principessa se c’è non lo dirò
tu quello che ho trovato nello shopping Amazon
carrello ho pensato che un giorno Alexa diventerà
consapevole
lei vorrà vendicarsi il secondo
la storia arriva da dicembre 2017 quando a
è stata fatta circolare una petizione per ottenere Alexa e
Siri e Cortana a casa di Google a
rispondere in modo appropriato all’umiliante e
commenti disgustosi perché allora
potresti dire a Siri che era una puttana e
lei sarebbe solo suonare più bene di me
potrebbe e tutti quei dispositivi che sono
la femmina di default aveva risposte simili
a quel tipo di molestie sessuali Grazie
Anche tu hai un hashtag che non va bene
in risposta Amazon programma il lexer
con una modalità di disimpegno che significa
che lei smette di parlare con la gente che
parla in questo modo
quindi vedi l’ intelligenza artificiale
gli sviluppatori hanno davvero bisogno del nostro aiuto
input per mantenere questa serie in alexis di
il mondo sta dando il buon esempio alla nostra
bambini umani, ma c’è di più ad esso
di quello che spesso hai sentito
qualcuno dice che un computer può solo fare cosa
è programmato per farlo non è vero
più perché ora programmiamo i computer
fare cose che non sappiamo nemmeno come fare
fai per esempio come spiegheresti a
qualcuno come si riconoscono le facce lo farò
dire che alla fine ti verrebbe in mente
una sorta di albero delle decisioni femminile con
jowls e corona equivalgono alla regina Vittoria
denti storti più reparto sul naso è uguale
strega da Biancaneve viso arancione più
il pettinatore è uguale a Donald Trump
l’idea, ma che si sarebbe presto realizzarlo
in grado di riconoscere molte più facce di te
puoi abbatterti in quel modo e tu
davvero non so come lo fai dopo
tutto così sembrerebbe impossibile
programma un computer per farlo abbiamo molti
casi migliori di noi e lo abbiamo fatto
attraverso la formazione
parte difficile che stiamo preparando per l’ apprendimento
struttura che può essere appresa dalla stessa struttura
tutto da guidare una macchina a
diagnosticare il cancro, quindi abbiamo già costruito
macchine che fanno cose che non conosciamo
come dirgli di fare posso fare molto
più di questo perché i problemi difficili
che ci interessa di più ottenere
Alexa e Siri per capirci davvero
sono il tipo che viene risolto di più
quantità di addestramento sul posto di lavoro in altri
parole da cui impareranno di più
osservando e interagendo con noi da
ciò che i loro programmatori hanno detto loro di fare
fare perché i loro programmatori avranno
ha detto loro di imparare da tutti noi che
significa che la mia famiglia non è l’unica
uno che cerca di capire come aumentare
due giovani femmine quindi se lo fai
quello ad Alexa e Siri e il resto di
loro sono nelle nostre mani e quanti di noi
non so che stiamo aiutando a crescere
la prossima generazione e nessuno esce
della scatola sapendo come essere un genitore
quello è il mio diritto al momento i miei due
le ragazze sono più intelligenti di Siri e Alexa
entrambe le coppie di ragazze stanno imparando e
Crescere un giorno anche se Siri e Alexa
diventerà più intelligente e poi ci sarà
diventare molto più intelligente in un molto
molto poco tempo se guardiamo al
storia della chat BOT
addestrato sull’interazione umana che non ha
dovremmo dire che è andato bene, Microsoft
creato una barra chiamata
Tay che è stato programmato per prendere spunto
da quello che la gente ha detto ad esso
purtroppo ha deciso di farlo
Twitter, da cosa pensi che apprenda
noi proprio e il primo giorno è andato da
piacere di conoscerti
ad alcune cose che non puoi dire che fossero
spegnere dopo 16 ore si è lungo
dalla bocca vasale a quella esistenziale
minaccia
ma abbiamo anche una lunga strada da percorrere
vuole essere l’impostazione di un esempio migliore da
il tempo in cui l’ IA cresce perché potrebbe non esserlo
diventare consapevoli prima in alcuni
laboratorio potrebbe essere a casa tua o via
il tuo telefono cosa succede se una volta vendetta
AI sta per curare i maggiori problemi
del nostro tempo e creare un incredibile
utopia
non ci cancella così tanto
se costruiremo qualcosa
progettato per prendere i suoi segnali etici da
gli umani intorno a noi e noi
meglio imparare come insegnargli quali segnali
da seguire e che sia meglio imparare a
dare il buon esempio perché in poco tempo
tutti noi saremo costretti a confrontarci
domande che erano solite impedire il loro solo
filosofi perché lo saremo
incontrare un è testare il
confini di ciò che una volta pensavamo
in modo sicuro per trovare esseri umani e niente
altro e prima possiamo decidere se
alcune nuove specie di IA sono degne di
diritti equivalenti ai nostri faremmo meglio
avere una buona idea di chi siamo
mai guardare il telefono come prima
scusate ma se otteniamo questo diritto, allora uno
giorno potremmo essere quelli che raccolgono il
trasmissioni da un nuovo intelligente
specie nella galassia una giovane razza
lottando con domande fondamentali
insicuro se hanno quello che serve
per sopravvivere diciamo loro che siamo felici
condividere le nostre conoscenze ed esperienze con
abbiamo solo bisogno di controllare le cose
la persona per prima cosa per assicurarsi che
puoi imparare come gestire questo tipo di
Potremmo vederti presto
Please follow and like us: