[Музыка]
представить себе мир без
ресурсы, в которых каждый человек
на земле есть доступ к основным потребностям, таким как
достаточная продовольственная чистая вода и укрытие и
что нет необходимости делать компромиссы
при распределении ресурсов не нужно беспокоиться
об исчерпании ресурсов в
социальной политики или политики
неравенство, основанное на богатстве
как бы вы перераспределили процветание
и реорганизовать социальные иерархии с помощью
этот рог изобилия представляет собой мир без
рабочих мест, в которых гражданам выплачивается
преследовать неторопливые действия, такие как чтение
писать здание самопознания
отношения и другие увлечения, как
вы бы переопределили самооценку без
Представьте себе мир без смерти в
который рак был вылечен терминалом
болезни были отменены, а генетические
расстройства относятся к пренатальному
как вы решаете, кто
жить вечно и как бы вы балансировали
бессмертие с контролем над населением
этих сценариев имеют две вещи в
общим является то, что
общество действует под каждым из них
в конечном счете, ресурс политического вопроса
Нехватка разделения труда и страха
смерть всегда определяла наш дискурс
в политической философии, потому что они
определить, как люди взаимодействуют и
как они осмысливают справедливость и
свободы они также определяют, как
национальные государства взаимодействуют в глобальном
экономики в мирное время и в
сохранения национальной безопасности в периоды
философов войны от Аристотеля до
Гоббс в Монтень принял дефицит
быть неизбежной частью человеческого
существования и нацелены на
конкуренции, которая возникает из-за нехватки
опираясь на идеи естественного альтруизма
или путем отсрочки на Левиафана до
предотвратить тотальную войну Платон и Руссо
считал, что
разделение труда непосредственно приводит к
неравенство и несправедливость Адам Смит видел
разделение труда как двигателя для
экономический рост в технической необходимости
но и ведет к коррупции и
вырождения Карл Маркс увидел разделение
труд как отчуждение от истинного
характера и результатов увеличения
иерархии классов, как мы видим философов
всегда считали, что дефицит
разделение труда и смерти
постоянные части человеческой жизни и что
это необходимо для работы, и это желание
всегда есть больше, чем ваш сосед даже
когда у него недостаточно, это просто часть
человеческой природы
справедливость осмысляется от дефицита является
все о справедливости собственности и избегании
самооценка смерти, концептуализированная из
разделение труда — все о том, сколько
вы производите и насколько ценны ваши работы
относится к другим людям, но
мир выглядит, если эти вещи не
существует то, что было бы справедливо, если бы мы
не волновались об исходе
пища или вода все еще будут
неравенство, если все имели одинаковые
доступ к ресурсам, как мы определяем
наша самооценка, если она не основана на
ценность нашей работы это приносит мне это
во-вторых, что эти сценарии
имеют то, что они будут
стать возможным благодаря
искусственный интеллект AI был
описанный как последнее изобретение, мы будем
когда-либо нужно было водить 4-й
Промышленная революция AI имеет две формы
искусственный узкий интеллект и
искусственный суп общий интеллект AI
уже вокруг нас в форме
искусственный интеллект узкий эти
форумы действительно хороши в достижении
одна задача и хорошо, а некоторые из них
на или превысили уровень человека
Эти возможности включают компьютеры, которые
играть в шахматы или ездить на самообслуживающихся автомобилях, которые
новая функция Gmail, которая генерирует короткие
ответы для вас о способности Netflix
предложить еще один 90-х rom-com для
меня
самостоятельная медицина в диагностике медицинских изображений
и что функция распознавания лиц в
Ионный искусственный общий интеллект
можно приблизительно описать как ИИ ,
может выполнить любую интеллектуальную задачу
что человек может другой термин
суперразведка — это AGI, который далеко
лучше выполнять любую задачу
что человек может включать в себя
конечному производству и вычислению, но
также художественное письмо
музыки и даже, возможно, философии и
в этой машине следующая
Шекспир следующий Рембрандт следующий
Бах следующий Платон, но и лучший
хирург-инвестиционный банкир и архитектор
в мире, так ли это высокий уровень
искусственный узкий интеллект или
искусственной суперинтеллектуальности в
в будущем у нас будут машины, которые
способный к инновациям в радикально новых
пути и поиска решений
самые большие проблемы в мире
эй, я мог бы устранить дефицит либо
максимизируя эффективность, с которой мы
выделить ресурсы, которые мы уже имеем
или путем расширения наших ресурсов путем
генетически модифицировать культуры для
более крупные урожаи или непосредственно растущие
мясо и овощи из стволовых клеток эй
Я мог систематически
геном рака гораздо быстрее, чем
человек, тогда команда людей может и
назначать индивидуальную медицину для каждого
уникальный пациент с раком, я положил экран
и изменили мутации для терминалов
болезни в то время как ребенок все еще находится в
матка, это может изменить человеческий глобальный
потепление путем прямого снижения атмосферного
уровни co2 в конечном счете все это
эмпирические оптимизируемые вопросы, которые могут
решаются алгоритмами, поэтому, если все
сценарии, которые я перечислял ранее, кажутся
как научная фантастика или общество сотни
или тысячи лет от теперь я здесь
сказать вам, что это не искусственный узкий
интеллект уже здесь и из
опрос ведущих мировых экспертов в области ИИ
искусственный суперразведка
Агенство возможно или даже возможно
произойдет к 2060 году, но даже если противоположное
были верны, если все ученые согласились
что часть этого суперинтеллекта является
невозможно или что ИИ не может сделать
все, что может нравиться людям
в любви или свободной воле
разработчики политики не должны игнорировать
политические последствия искусственных
узкий интеллектуальный интеллект
это одно, но есть много
политические проблемы для решения, прежде чем мы получим
там при оценке нашего будущего
технологический прогресс в этой области
плохое планирование это неспособность
признать, что технология есть и всегда
будет политическим вопросом технологического
прогресс не является детерминированным, а
применение технологии не может быть
сходящихся или моральных
даже если мы будем преследовать эти
достижения в конечном счете определяются
наш политический характер, так что
политический характер
хорошо политика была определена как
изучение того, кто получает то, что и когда и как
эти достижения в конечном счете
бросить вызов нашим существующим предположениям
о том, кто и как
независимо от того , разрабатывается ли оно правительствами или
компаний демократий или авторитарных
режимы чрезвычайно важны
сначала, идет ли прогресс AI
через компании или правительства
в конечном итоге определить, как этот ИИ
технология применяется правительства имеют
стимулы для обеспечения безопасности и
процветание его граждан
стабильности режима и достижения глобального мира
тогда как такие компании, как Apple Facebook
Google и Microsoft управляются
прибыль и рынок
но есть преимущества и
недостатки для каждого из преимуществ
правительство берет под свой контроль то , что оно
будет иметь полный контроль над финансированием
различных проектов и определения
исследовательской повестки дня было бы стимулом I
и имеют право преследовать определенные
заканчивается как снижение экономического неравенства
или даже просто затормозить прогресс
самоходные автомобили, позволяющие инфраструктуре
догнать, и эти цели не всегда могут быть
достигнутые рыночными силами, даже с
такая же технология доступна
недостатки правительства
контроль авторитарны или, возможно,
даже тоталитарные тенденции, которые дают
государственный контроль над технологией
которые определят наши рабочие места нашими
благополучие в нашей жизни может быть
это слишком много, но если компании
быть единственными действующими лицами в
они начинают накапливать политическое влияние
или нарушения определенных прав и
свободы, сколько должно правительство
вмешаться этот вопрос становится
особенно важно, когда мы считаем
что два национал-государства-лидера
в ИИ — Соединенные Штаты и Китай
две страны, возможно, очень
различные формы управления, которые
из разных политических теорий и
имеют разные пути инноваций
тогда как исследование ИИ было тяжело
во главе с нами в конце 20-го
и в начале XXI века Китай
быстро зарекомендовал себя как AI
супертяжелом в период между 2010 и 2014 годами в Китае
видел прирост AI AI на 186 процентов
в то время как США видели только
увеличение на 26 процентов китайских стартапов
завоевали международную речь и
конкурсов признания в Китае
крупнейшие интернет-компании Baidu
Алибаба и 10 центов
количество данных для работы с от
электронная коммерция в социальных сетях и поиск
двигатели с более чем 750 миллионами Интернет
пользователей, и поэтому они дали, что эти два
страны довольно много шеи и шеи
когда дело доходит до возможностей ИИ, что
являются одними из наиболее важных политических
вопросы для рассмотрения некоторых из них
включают балансировку переподготовки кадров
экономический рост от автоматизации с
огромная потеря работы и
или растущее неравенство в перераспределении
ресурсы, регулирующие полицию и военную
когда все оружие станет автоматизированным
кибер — безопасность и конфиденциальность свобода
речь сейчас у меня не будет времени
вникать во все это подробно, но
начнем с рабочих мест, возможно, наиболее
немедленной политики в
обозримое будущее
ai сможет завершить большинство наших
лучше, чем мы можем
воплощение самой концепции рабочих мест
устаревших, как будут действовать каждое правительство
обрабатывать переход от жизни или
вращаться вокруг работы, чтобы врать или вращаться
вокруг чего — то еще они продолжат
с предположением, что рабочие места
абсолютно необходимо для счастья и
выполнение и внутреннее желание
люди будут платить гражданам
полные мирские задачи или
универсальный базовый доход или покончить с
рабочих мест без человеческого труда
к чему мы стремимся
людей, когда ИИ начинает расширять наши
ресурсов или нашей способности выделять
ресурсы, которые правительство будет осуществлять
новых политик благосостояния, как каждый
переоценивает
существующего экономического неравенства и нашего
нынешний акцент на возмездие правосудия
будут ли они сходиться по новому определению
правосудия, когда больше нет
конкуренция за ресурсы и не более
потребность в богатствах
Важным вопросом политики является наблюдение
и использование ИИ и распознавания лиц
китайское правительство уже начало
сотрудничество с компаниями, которые
разработать эту технологию для
система социального кредитования, которая в настоящее время
в работах, но теоретически
назначить каждому гражданину оценку, которая
определяет страхование по кредитам
международные возможности путешествий
и даже доступ к образованию для их
детские камеры по всему Китаю соответствуют
лица граждан со своими социальными
медийная информация расходы на медицинские данные
привычки и судимость
преступления, поскольку они происходят, но также и
повысить надежность полиции
поведение
что мы делаем то же самое или это будет
считается нарушением конфиденциальности
теперь, когда у нас есть технология для
регулировать аморальное поведение и улов
преступники, что мы с ним сделаем наконец
как подход каждого правительства к
Этические последствия ИИ — это мораль
универсальный или как относительный пример
давайте возьмем самоходные автомобили, как
каждое правительство подходит к вопросу о
будь то самозаводящийся автомобиль
жертвовать жизнью особого водителя
для жизни автобуса, полного детей
или в этом случае жизни трех
пешеходов на пять в машине и кто
несет ответственность, если он принимает неправильное решение
эти две нации достигнут того же
заключение к этой реальной тележке
проблема мой ответ не обязательно
но я не решаюсь сделать суждение о
кто сделает морально лучше
в качестве другого примера возьмем
горилла, оценивающая оценку риска
за преступления в 2016 году в Соединенных Штатах
программа, неправильно маркированная черным
обвиняемых в два раза чаще
неодобрительные белые обвиняемые это не было
из-за самого алгоритма, но
уклоны , которые уже существуют в США
системы правосудия, и это вызывает беспокойство
последствия, так что любые предрассудки нашего
нации должны показать через в
данные, которые ИИ полагаются в этом случае в
в этом случае это были записи ареста
почтовые индексы социальной принадлежности и дохода
и потому, что каждая нация и ее данные
имеют разные предрассудки, они также будут
создавать различные программы ИИ и
оставляет меня с тремя вопросами, которые
нация имеет меньше или хотя бы меньше
предубеждениями и создаст больше
только программы ИИ, на которые
стремясь преодолеть эти предрассудки в
значимым образом, чтобы они не
запрограммированы на машины и три
есть определенные применения ИИ, которые нет
нации должно быть разрешено преследовать
из-за этих предрассудков
наконец, если и когда мы достигнем
суперинтеллектом его значения должны быть
идеально выровнены с нашими или еще что
оптимизирует неправильную цель, мы не можем
быть в состоянии предсказать действия
супер-интеллектуальная машина и это
представляет собой экзистенциальный риск доброкачественной
примером этого является открытая программа для глаз
что играет побережье бегунов , который является
в основном эта видеоигра в старой школе
что, где цель состоит в том, чтобы закончить
лодка гонки так быстро , как это возможно , но
но игра вознаграждает своих игроков
очки за попадание определенных целей
по маршруту, и поэтому, когда программа
сыграл эту игру, которую он нашел на острове, чтобы
кругом вокруг снова и снова
идет в неправильном направлении , но имеющие
более высокий балл , очевидно , среди
целая точка игры, которая была
пересечь финишную черту, но это точно
что было сказано делать, что было
увеличить разрыв в счете так , потому что мы
не в состоянии преодолеть действия машин
как мы можем с людьми, если мы не сможем
точно укажите, что мы хотим, чтобы мы столкнулись с
король — проблема с тем, что вы попросили
ибо не всегда может быть то, что вы хотите, но
вместо того, чтобы превращать все в прикосновения
в золото супер интеллектуальный ИИ как
вполне рациональный актер может взять любой
маленькая задача, как изготовление скрепки
или оптимизации финансового алгоритма для
крайность и ее действия могут быть
необратимо, он может решить, что наиболее
эффективный способ сделать эти задачи в
превратить весь углерод в себя в
скрепки или манипулировать запасом
рынка и уничтожить глобальную экономику или
колонизировать вселенную и превратить все это
в огромный суперкомпьютер для запуска
и я знаю, что это звучит
немного экстрима и надуманным , но
невозможность предсказать действия
более разумное существо — именно то, почему мы
иметь контроль над животным царством, мы
определить, живут ли другие животные или
умереть
не потому, что мы физически превосходим
а потому, что мы более умны и
поэтому супер интеллектуальный ИИ
должны иметь свои значения, полностью выровненные
с нашей, которая включает в себя не
человек не колонизирует вселенную
и поддержание счастья и процветания
и свобода в человеческой жизни, но она может
также включают значения, которые несколько
менее универсальный, даже первый
убийство любого человека может быть не универсальным
если мы решаем, что некоторые жизни стоят
больше, чем другие, мы можем ценить жизнь
нравственности над нечестивыми
жизнь тех, кто сейчас живет
в будущем мы можем решить
достичь идеального равенства или поддерживать
текущие социально-экономические иерархии для
стабильности для поддержания нынешних демократических
и авторитарные режимы или уйти
с правительствами в целом и преследовать
анархия сейчас, что больше нет
конкуренция за ресурсы и
суперинтеллектуальность настолько сложна
контроля и потенциально невозможно
конкурировать с первой нацией или
правительство первое правительство или
компании, чтобы достичь суперинтеллектуальности, может
определить набор значений, которые
остальное общество и будущие поколения
будет действовать под национальным государством, может
принять решение сохранить текущую глобальную власть
динамику или обеспечить глобальную гегемонию
для себя, и поэтому мой вопрос в том, как
будет каждое правительство конкретно и
возможно, постоянно определять его ценности
и какие национальные ценности совпадают с
людей всего человечества сейчас взять
шаг назад на секунду, почему я спрашиваю
эти вопросы в первую очередь
полезно подумать о том, что
похоже, через сто лет это
можно контролировать, кто и что
как политика и технологии я
думаю , что я думаю , что каждый из правительства
должны начать подготовку к будущему и
в котором будут доминировать ИИ и
эти различные сценарии, если мы
устранить нехватку ресурсов и
смерти, и если мы достигнем суперинтеллектуальности
и они должны скоро начать
величина изменения вероятности
быстрого хода ИИ и потенциала
постоянство глобальной власти
нации от ИИ Президент России
Владимир Путин недавно объявил, что ИИ
будущее не только для России, но и для
все человечество
он имеет колоссальные возможности, но
также угроз, которые трудно
предсказать, кто станет лидером в
сфера станет повелителем
мира, и поэтому Соединенные Штаты и Китай
должен предвидеть, как другой
использовать эту технологию и как они будут
они должны представлять общественность
интерес и критически мыслить о
применения этой технологии на самом деле
это глобальный общественный интерес и
поэтому глобальное управление необходимо как
нейтральные , не партизанские виды ширины третий
чтобы обеспечить глобальную
процветание и мир AI является наиболее
важный политический вопрос нашего
потому что это революционизирует
как мы приближаемся к наиболее
фундаментальные вопросы в политической
философия наша история предположений
о человеческом характере гражданского общества и
существование будет повернуто на голове
как общество должно быть структурировано, когда
нет больше конкуренции за
ресурсов, как мы определяем наши
самооценки при отсутствии рабочих мест и
деньги, мы должны преследовать бессмертие, что
ценности и мораль, которые мы должны
программы в суперинтеллекту, которая в
первое место должно ответить на эти
вопросы должны быть такие компании, как
Apple и Facebook или правительства, как
США и Китая или глобальные
Это наиболее
важные политические вопросы нашего
Поколение , которое мы никогда не должны были
рассмотрим ранее и вопросы, которые
мы должны начать оценивать сейчас спасибо
[Аплодисменты]
[Музыка]
вы
представить себе мир без
ресурсы, в которых каждый человек
на земле есть доступ к основным потребностям, таким как
достаточная продовольственная чистая вода и укрытие и
что нет необходимости делать компромиссы
при распределении ресурсов не нужно беспокоиться
об исчерпании ресурсов в
социальной политики или политики
неравенство, основанное на богатстве
как бы вы перераспределили процветание
и реорганизовать социальные иерархии с помощью
этот рог изобилия представляет собой мир без
рабочих мест, в которых гражданам выплачивается
преследовать неторопливые действия, такие как чтение
писать здание самопознания
отношения и другие увлечения, как
вы бы переопределили самооценку без
Представьте себе мир без смерти в
который рак был вылечен терминалом
болезни были отменены, а генетические
расстройства относятся к пренатальному
как вы решаете, кто
жить вечно и как бы вы балансировали
бессмертие с контролем над населением
этих сценариев имеют две вещи в
общим является то, что
общество действует под каждым из них
в конечном счете, ресурс политического вопроса
Нехватка разделения труда и страха
смерть всегда определяла наш дискурс
в политической философии, потому что они
определить, как люди взаимодействуют и
как они осмысливают справедливость и
свободы они также определяют, как
национальные государства взаимодействуют в глобальном
экономики в мирное время и в
сохранения национальной безопасности в периоды
философов войны от Аристотеля до
Гоббс в Монтень принял дефицит
быть неизбежной частью человеческого
существования и нацелены на
конкуренции, которая возникает из-за нехватки
опираясь на идеи естественного альтруизма
или путем отсрочки на Левиафана до
предотвратить тотальную войну Платон и Руссо
считал, что
разделение труда непосредственно приводит к
неравенство и несправедливость Адам Смит видел
разделение труда как двигателя для
экономический рост в технической необходимости
но и ведет к коррупции и
вырождения Карл Маркс увидел разделение
труд как отчуждение от истинного
характера и результатов увеличения
иерархии классов, как мы видим философов
всегда считали, что дефицит
разделение труда и смерти
постоянные части человеческой жизни и что
это необходимо для работы, и это желание
всегда есть больше, чем ваш сосед даже
когда у него недостаточно, это просто часть
человеческой природы
справедливость осмысляется от дефицита является
все о справедливости собственности и избегании
самооценка смерти, концептуализированная из
разделение труда — все о том, сколько
вы производите и насколько ценны ваши работы
относится к другим людям, но
мир выглядит, если эти вещи не
существует то, что было бы справедливо, если бы мы
не волновались об исходе
пища или вода все еще будут
неравенство, если все имели одинаковые
доступ к ресурсам, как мы определяем
наша самооценка, если она не основана на
ценность нашей работы это приносит мне это
во-вторых, что эти сценарии
имеют то, что они будут
стать возможным благодаря
искусственный интеллект AI был
описанный как последнее изобретение, мы будем
когда-либо нужно было водить 4-й
Промышленная революция AI имеет две формы
искусственный узкий интеллект и
искусственный суп общий интеллект AI
уже вокруг нас в форме
искусственный интеллект узкий эти
форумы действительно хороши в достижении
одна задача и хорошо, а некоторые из них
на или превысили уровень человека
Эти возможности включают компьютеры, которые
играть в шахматы или ездить на самообслуживающихся автомобилях, которые
новая функция Gmail, которая генерирует короткие
ответы для вас о способности Netflix
предложить еще один 90-х rom-com для
меня
самостоятельная медицина в диагностике медицинских изображений
и что функция распознавания лиц в
Ионный искусственный общий интеллект
можно приблизительно описать как ИИ ,
может выполнить любую интеллектуальную задачу
что человек может другой термин
суперразведка — это AGI, который далеко
лучше выполнять любую задачу
что человек может включать в себя
конечному производству и вычислению, но
также художественное письмо
музыки и даже, возможно, философии и
в этой машине следующая
Шекспир следующий Рембрандт следующий
Бах следующий Платон, но и лучший
хирург-инвестиционный банкир и архитектор
в мире, так ли это высокий уровень
искусственный узкий интеллект или
искусственной суперинтеллектуальности в
в будущем у нас будут машины, которые
способный к инновациям в радикально новых
пути и поиска решений
самые большие проблемы в мире
эй, я мог бы устранить дефицит либо
максимизируя эффективность, с которой мы
выделить ресурсы, которые мы уже имеем
или путем расширения наших ресурсов путем
генетически модифицировать культуры для
более крупные урожаи или непосредственно растущие
мясо и овощи из стволовых клеток эй
Я мог систематически
геном рака гораздо быстрее, чем
человек, тогда команда людей может и
назначать индивидуальную медицину для каждого
уникальный пациент с раком, я положил экран
и изменили мутации для терминалов
болезни в то время как ребенок все еще находится в
матка, это может изменить человеческий глобальный
потепление путем прямого снижения атмосферного
уровни co2 в конечном счете все это
эмпирические оптимизируемые вопросы, которые могут
решаются алгоритмами, поэтому, если все
сценарии, которые я перечислял ранее, кажутся
как научная фантастика или общество сотни
или тысячи лет от теперь я здесь
сказать вам, что это не искусственный узкий
интеллект уже здесь и из
опрос ведущих мировых экспертов в области ИИ
искусственный суперразведка
Агенство возможно или даже возможно
произойдет к 2060 году, но даже если противоположное
были верны, если все ученые согласились
что часть этого суперинтеллекта является
невозможно или что ИИ не может сделать
все, что может нравиться людям
в любви или свободной воле
разработчики политики не должны игнорировать
политические последствия искусственных
узкий интеллектуальный интеллект
это одно, но есть много
политические проблемы для решения, прежде чем мы получим
там при оценке нашего будущего
технологический прогресс в этой области
плохое планирование это неспособность
признать, что технология есть и всегда
будет политическим вопросом технологического
прогресс не является детерминированным, а
применение технологии не может быть
сходящихся или моральных
даже если мы будем преследовать эти
достижения в конечном счете определяются
наш политический характер, так что
политический характер
хорошо политика была определена как
изучение того, кто получает то, что и когда и как
эти достижения в конечном счете
бросить вызов нашим существующим предположениям
о том, кто и как
независимо от того , разрабатывается ли оно правительствами или
компаний демократий или авторитарных
режимы чрезвычайно важны
сначала, идет ли прогресс AI
через компании или правительства
в конечном итоге определить, как этот ИИ
технология применяется правительства имеют
стимулы для обеспечения безопасности и
процветание его граждан
стабильности режима и достижения глобального мира
тогда как такие компании, как Apple Facebook
Google и Microsoft управляются
прибыль и рынок
но есть преимущества и
недостатки для каждого из преимуществ
правительство берет под свой контроль то , что оно
будет иметь полный контроль над финансированием
различных проектов и определения
исследовательской повестки дня было бы стимулом I
и имеют право преследовать определенные
заканчивается как снижение экономического неравенства
или даже просто затормозить прогресс
самоходные автомобили, позволяющие инфраструктуре
догнать, и эти цели не всегда могут быть
достигнутые рыночными силами, даже с
такая же технология доступна
недостатки правительства
контроль авторитарны или, возможно,
даже тоталитарные тенденции, которые дают
государственный контроль над технологией
которые определят наши рабочие места нашими
благополучие в нашей жизни может быть
это слишком много, но если компании
быть единственными действующими лицами в
они начинают накапливать политическое влияние
или нарушения определенных прав и
свободы, сколько должно правительство
вмешаться этот вопрос становится
особенно важно, когда мы считаем
что два национал-государства-лидера
в ИИ — Соединенные Штаты и Китай
две страны, возможно, очень
различные формы управления, которые
из разных политических теорий и
имеют разные пути инноваций
тогда как исследование ИИ было тяжело
во главе с нами в конце 20-го
и в начале XXI века Китай
быстро зарекомендовал себя как AI
супертяжелом в период между 2010 и 2014 годами в Китае
видел прирост AI AI на 186 процентов
в то время как США видели только
увеличение на 26 процентов китайских стартапов
завоевали международную речь и
конкурсов признания в Китае
крупнейшие интернет-компании Baidu
Алибаба и 10 центов
количество данных для работы с от
электронная коммерция в социальных сетях и поиск
двигатели с более чем 750 миллионами Интернет
пользователей, и поэтому они дали, что эти два
страны довольно много шеи и шеи
когда дело доходит до возможностей ИИ, что
являются одними из наиболее важных политических
вопросы для рассмотрения некоторых из них
включают балансировку переподготовки кадров
экономический рост от автоматизации с
огромная потеря работы и
или растущее неравенство в перераспределении
ресурсы, регулирующие полицию и военную
когда все оружие станет автоматизированным
кибер — безопасность и конфиденциальность свобода
речь сейчас у меня не будет времени
вникать во все это подробно, но
начнем с рабочих мест, возможно, наиболее
немедленной политики в
обозримое будущее
ai сможет завершить большинство наших
лучше, чем мы можем
воплощение самой концепции рабочих мест
устаревших, как будут действовать каждое правительство
обрабатывать переход от жизни или
вращаться вокруг работы, чтобы врать или вращаться
вокруг чего — то еще они продолжат
с предположением, что рабочие места
абсолютно необходимо для счастья и
выполнение и внутреннее желание
люди будут платить гражданам
полные мирские задачи или
универсальный базовый доход или покончить с
рабочих мест без человеческого труда
к чему мы стремимся
людей, когда ИИ начинает расширять наши
ресурсов или нашей способности выделять
ресурсы, которые правительство будет осуществлять
новых политик благосостояния, как каждый
переоценивает
существующего экономического неравенства и нашего
нынешний акцент на возмездие правосудия
будут ли они сходиться по новому определению
правосудия, когда больше нет
конкуренция за ресурсы и не более
потребность в богатствах
Важным вопросом политики является наблюдение
и использование ИИ и распознавания лиц
китайское правительство уже начало
сотрудничество с компаниями, которые
разработать эту технологию для
система социального кредитования, которая в настоящее время
в работах, но теоретически
назначить каждому гражданину оценку, которая
определяет страхование по кредитам
международные возможности путешествий
и даже доступ к образованию для их
детские камеры по всему Китаю соответствуют
лица граждан со своими социальными
медийная информация расходы на медицинские данные
привычки и судимость
преступления, поскольку они происходят, но также и
повысить надежность полиции
поведение
что мы делаем то же самое или это будет
считается нарушением конфиденциальности
теперь, когда у нас есть технология для
регулировать аморальное поведение и улов
преступники, что мы с ним сделаем наконец
как подход каждого правительства к
Этические последствия ИИ — это мораль
универсальный или как относительный пример
давайте возьмем самоходные автомобили, как
каждое правительство подходит к вопросу о
будь то самозаводящийся автомобиль
жертвовать жизнью особого водителя
для жизни автобуса, полного детей
или в этом случае жизни трех
пешеходов на пять в машине и кто
несет ответственность, если он принимает неправильное решение
эти две нации достигнут того же
заключение к этой реальной тележке
проблема мой ответ не обязательно
но я не решаюсь сделать суждение о
кто сделает морально лучше
в качестве другого примера возьмем
горилла, оценивающая оценку риска
за преступления в 2016 году в Соединенных Штатах
программа, неправильно маркированная черным
обвиняемых в два раза чаще
неодобрительные белые обвиняемые это не было
из-за самого алгоритма, но
уклоны , которые уже существуют в США
системы правосудия, и это вызывает беспокойство
последствия, так что любые предрассудки нашего
нации должны показать через в
данные, которые ИИ полагаются в этом случае в
в этом случае это были записи ареста
почтовые индексы социальной принадлежности и дохода
и потому, что каждая нация и ее данные
имеют разные предрассудки, они также будут
создавать различные программы ИИ и
оставляет меня с тремя вопросами, которые
нация имеет меньше или хотя бы меньше
предубеждениями и создаст больше
только программы ИИ, на которые
стремясь преодолеть эти предрассудки в
значимым образом, чтобы они не
запрограммированы на машины и три
есть определенные применения ИИ, которые нет
нации должно быть разрешено преследовать
из-за этих предрассудков
наконец, если и когда мы достигнем
суперинтеллектом его значения должны быть
идеально выровнены с нашими или еще что
оптимизирует неправильную цель, мы не можем
быть в состоянии предсказать действия
супер-интеллектуальная машина и это
представляет собой экзистенциальный риск доброкачественной
примером этого является открытая программа для глаз
что играет побережье бегунов , который является
в основном эта видеоигра в старой школе
что, где цель состоит в том, чтобы закончить
лодка гонки так быстро , как это возможно , но
но игра вознаграждает своих игроков
очки за попадание определенных целей
по маршруту, и поэтому, когда программа
сыграл эту игру, которую он нашел на острове, чтобы
кругом вокруг снова и снова
идет в неправильном направлении , но имеющие
более высокий балл , очевидно , среди
целая точка игры, которая была
пересечь финишную черту, но это точно
что было сказано делать, что было
увеличить разрыв в счете так , потому что мы
не в состоянии преодолеть действия машин
как мы можем с людьми, если мы не сможем
точно укажите, что мы хотим, чтобы мы столкнулись с
король — проблема с тем, что вы попросили
ибо не всегда может быть то, что вы хотите, но
вместо того, чтобы превращать все в прикосновения
в золото супер интеллектуальный ИИ как
вполне рациональный актер может взять любой
маленькая задача, как изготовление скрепки
или оптимизации финансового алгоритма для
крайность и ее действия могут быть
необратимо, он может решить, что наиболее
эффективный способ сделать эти задачи в
превратить весь углерод в себя в
скрепки или манипулировать запасом
рынка и уничтожить глобальную экономику или
колонизировать вселенную и превратить все это
в огромный суперкомпьютер для запуска
и я знаю, что это звучит
немного экстрима и надуманным , но
невозможность предсказать действия
более разумное существо — именно то, почему мы
иметь контроль над животным царством, мы
определить, живут ли другие животные или
умереть
не потому, что мы физически превосходим
а потому, что мы более умны и
поэтому супер интеллектуальный ИИ
должны иметь свои значения, полностью выровненные
с нашей, которая включает в себя не
человек не колонизирует вселенную
и поддержание счастья и процветания
и свобода в человеческой жизни, но она может
также включают значения, которые несколько
менее универсальный, даже первый
убийство любого человека может быть не универсальным
если мы решаем, что некоторые жизни стоят
больше, чем другие, мы можем ценить жизнь
нравственности над нечестивыми
жизнь тех, кто сейчас живет
в будущем мы можем решить
достичь идеального равенства или поддерживать
текущие социально-экономические иерархии для
стабильности для поддержания нынешних демократических
и авторитарные режимы или уйти
с правительствами в целом и преследовать
анархия сейчас, что больше нет
конкуренция за ресурсы и
суперинтеллектуальность настолько сложна
контроля и потенциально невозможно
конкурировать с первой нацией или
правительство первое правительство или
компании, чтобы достичь суперинтеллектуальности, может
определить набор значений, которые
остальное общество и будущие поколения
будет действовать под национальным государством, может
принять решение сохранить текущую глобальную власть
динамику или обеспечить глобальную гегемонию
для себя, и поэтому мой вопрос в том, как
будет каждое правительство конкретно и
возможно, постоянно определять его ценности
и какие национальные ценности совпадают с
людей всего человечества сейчас взять
шаг назад на секунду, почему я спрашиваю
эти вопросы в первую очередь
полезно подумать о том, что
похоже, через сто лет это
можно контролировать, кто и что
как политика и технологии я
думаю , что я думаю , что каждый из правительства
должны начать подготовку к будущему и
в котором будут доминировать ИИ и
эти различные сценарии, если мы
устранить нехватку ресурсов и
смерти, и если мы достигнем суперинтеллектуальности
и они должны скоро начать
величина изменения вероятности
быстрого хода ИИ и потенциала
постоянство глобальной власти
нации от ИИ Президент России
Владимир Путин недавно объявил, что ИИ
будущее не только для России, но и для
все человечество
он имеет колоссальные возможности, но
также угроз, которые трудно
предсказать, кто станет лидером в
сфера станет повелителем
мира, и поэтому Соединенные Штаты и Китай
должен предвидеть, как другой
использовать эту технологию и как они будут
они должны представлять общественность
интерес и критически мыслить о
применения этой технологии на самом деле
это глобальный общественный интерес и
поэтому глобальное управление необходимо как
нейтральные , не партизанские виды ширины третий
чтобы обеспечить глобальную
процветание и мир AI является наиболее
важный политический вопрос нашего
потому что это революционизирует
как мы приближаемся к наиболее
фундаментальные вопросы в политической
философия наша история предположений
о человеческом характере гражданского общества и
существование будет повернуто на голове
как общество должно быть структурировано, когда
нет больше конкуренции за
ресурсов, как мы определяем наши
самооценки при отсутствии рабочих мест и
деньги, мы должны преследовать бессмертие, что
ценности и мораль, которые мы должны
программы в суперинтеллекту, которая в
первое место должно ответить на эти
вопросы должны быть такие компании, как
Apple и Facebook или правительства, как
США и Китая или глобальные
Это наиболее
важные политические вопросы нашего
Поколение , которое мы никогда не должны были
рассмотрим ранее и вопросы, которые
мы должны начать оценивать сейчас спасибо
[Аплодисменты]
[Музыка]
вы
Please follow and like us:
Be First to Comment