[Аплодисменты]
сегодня я хочу поговорить о чем-то
это было в новостях почти каждый день
вероятно, несколько раз, и это
искусственный интеллект или ИИ, поэтому я
собираюсь использовать этот маленький мультфильм, чтобы я
привлек небольшой робот, который я собираюсь использовать
этот парень, чтобы изобразить ИИ, который был бы
робот или автомобиль без водителя или просто
алгоритм, выполняющий размещение
ресурсов, и я собираюсь спросить
вопрос о том, как мы обрабатываем
проблемы , связанные с этим
технологии так , с одной стороны , а обещания AI
многие выгоды от
рекомендации для ресторанов и
фильмы и даже романтические
более безопасные автомобили для более точных медицинских
диагноз и целая куча других
но я также поднимаю много
Проблемы , с которыми люди говорят о
очень часто в средствах массовой информации
алгоритмы, которые фильтруют новости, ставящие нас
в пузырьках фильтра для несправедливого совпадения в
рынки для массовой безработицы, конечно
и целая куча других проблем , с тем
как мы балансируем преимущества и
рискует теперь одной идеей, которая обычно
обсуждается , что нам всегда нужен человек
в петле этих систем, чтобы она
посмотри что-то вроде этого
у вас есть ИИ, который выполняет
функция , скажем, летает на самолете
вам всегда нужно положить человека в
петля, как капитан в кабине и
этот человек обеспечит, чтобы система
ведет себя в соответствии с нашими планами и
желаний, а также может вмешиваться в
в случае чего-то пойдет не так и, возможно, больше
важно, чтобы кто-то виноват
сейчас что-то пошло не так интересно
вещь, чтобы заметить об этом изображении
что все здесь имеют одну и ту же цель
поэтому большинство пассажиров, которых я бы надеялся
требуют от A до B безопасно
есть исключения, но во многих случаях
наши системы с
выполняют функции , в которых есть
несколько целей и эти цели могут быть в
конфликт, так что кто-то может быть заинтересован
честно, так что другой человек больше заботится
об эффективности и еще одном человеке
больше заботится о безопасности и этих целях
не может быть одновременно достижимо для
почему бы и нет, как мы согласны
на эти цели , прежде чем мы говорим
Машина , что делать и иметь
человек-в-петле вмешивается, так что это
меньше, чем человек в цикле
и больше похоже на общество в цикле
вызов , посредством которой общество в петле
здесь я имею в виду человека в цикле плюс
социальный контракт между заинтересованными сторонами
кто заботится о разных вещах и тому
социальный контракт призван обеспечить
соглашение, в которое люди
выберет для того, чтобы
их коллективная польза — это
необходимость и социальный контракт не
действительно новая идея, которая была вокруг для
в то время как по меньшей мере 350 лет в следующем году это
это книга Левиафана политическим
философ и экономист Томас Гоббс
и Томас Гоббс — это инновация
определить это понятие легитимности
суверенная власть, которая не приходит
сверху она не выходит из
ничего , кроме него не выходит из взаимного
согласие тех, кто управляется, если
вы увеличиваете этот государь это
всемогущий суверен, смотрящий на
Здесь вы видите, что он состоит из
сотни маленьких людей, которые выбрали
в социальный договор, отказавшись
некоторые из их индивидуальных прав и
свобод для поддержания этого
суверенная власть для обеспечения собственности
прав, а также других прав и
если эти люди откажутся от
этот контракт это очень мощная вещь
немедленно прекратит свое существование
теперь Гоббс сделал этого
мощный он сказал, что этот суверенный
должен иметь почти всю силу
принимая жизнь людей, но потом мы провели
много десятилетий фактически столетий создания поселения
этот Левиафан, и мы сделали это
введение многих сдержек и
его сила, обеспечивающая основные права
что он не может
нарушать и целую кучу других
политических событий с тех пор и
сегодня, когда мы думаем о технологии, это
важно понять, что мы создали
и поддержал и приручил Левиафана
через социальный контракт, так что сегодня, когда мы
построить технологию на своего рода киборге
суверен , состоящий из людей, как
а также алгоритмы, принимающие решения, которые
влияют на нас, мы также нуждаемся в каком-то социальном
контракт, который также является алгоритмическим, и я
хочу немного рассказать о
характер этой вещи сейчас, как и как
мы приручим его, прежде чем мы обсудим это
нам нужно говорить о том, что
регулирует, и я не могу придумать лучшего
источник или классификация вещей
которые регулируют тогда Ларри Лессига
так что там хорошо
Ларри посередине он регулируется
и он регулируется четырьмя основными силами
это из его книжного кода и других
законы киберпространства, которые были очень
влиятельный в 90-х годах как Интернет
начиналось так, что закон является одним из основных
регулирующие органы — это то, что делают правительства
но и рынки социальных норм, которые устанавливают
цены на различные виды поведения и
объектов, но и архитектуры и
это он означает как физическое
архитектуры построенная архитектура, но
также информационные объекты архитектуры
как дизайн киберпространства, так как
изменение алгоритмического социального контракта
эта картина, я думаю, с одной стороны, это
введение нового вида актера, который
требует регулирования, поэтому мы люди
до сих пор , но мы регулирование новых видов
актеры, а вместо Ларри в середине
здесь у нас есть наш маленький робот, и это
робот регулируется аналогичными
это может быть, например, куча
программ, торгующих алгоритмическим
торгового рынка, или это может быть
без водителя
городские пространства и так далее, с другой стороны
у нас теперь есть регулируемая I
человеческого поведения, а также
снова вернуться к этому изображению
и снова положил Ларри в середину
закон теперь становится AI Augmented
Прогностическая полицейская деятельность говорит полиции
где используют двух полицейских судей
алгоритмы, чтобы информировать все
решений и т. д. на рынках сейчас
используя алгоритмы для распределения покупателей и
продавцы, например, в одноранговой сети
рынками или рынками распределения поездок и
информационная архитектура
опосредовано алгоритмами, а также
какую информацию мы видим на море
информации и даже
нормы изменяются этими
алгоритмы, например, думают о датировке
сайтов и как они изменяют виды
отношения с людьми формируют так, что я
думаю , важно подумать так же, как мы
подумайте о том, как эта картина меняется
важно подумать о том, что
остались прежними и что изменилось
потому что я думаю, что вещи, которые остаются
то же самое означает, что мы все еще можем использовать
некоторые из наших старых инструментов для регулирования этого
новая среда, поэтому одна из вещей
что остается неизменным, непрозрачность и
думаю , рассмотрим, например , преподающих
машина прямо от неправильного, как что делать
конечно, вы знаете, с одной стороны, мы имеем
трудно сформулировать наши цели
но у нас всегда были трудности
формулируя цели для людей, мы также
трудно доверять другим людям и сейчас
нам трудно доверять другим
машин для соответствия этим целям и
ограничений и, конечно, даже когда даже
благие намерения могут иногда
вы знаете, что можете сказать
робот, чтобы свести к минимуму страдания, и он убивает
все люди, потому что это один из способов
достижение этой цели сейчас,
что-то не так с этой картинкой
требующих от программистов обеспечения того, чтобы
их машины этичны, прежде чем они
пусть они в дикой природе, и я думаю, что это
потому что эта цель на самом деле
высокий заказ, чтобы спросить у программистов
не просите людей открывать другие
мозг людей, чтобы проверить, являются ли они
этично , глядя на их мозг
архитектура это просто нереалистично
вместо того, что мы делаем, мы
наблюдать за поведением людей, а затем мы
держать его мы оценивали с набором
стандарты поведения — вторая вещь
что на самом деле не изменилось является
наличие неразрешимых дилемм
общий, что я был частично
ответственным за популяризацию является
этическая дилемма, что автономный автомобиль
может столкнуться с тем история идет автомобиль
как-то потерял контроль, собирается убить
некоторые пешеходы, но он способен свернуть
и убить, возможно, своих пассажиров в
Для того чтобы сохранить больше пешеходов снова
многие люди думают, что вы знаете ИИ
должен решить эту проблему, но это
проблема принципиально неразрешима
именно поэтому он называется
дилемма по определению неразрешима
и это действительно высокий порядок ожидания
машины для решения проблемы , которая бросила вызов
лучшие юридические умы и этические
философские умы для тысяч
лет, прежде чем мы добавим технологию
но это не значит, что мы можем решить
эти проблемы мы не можем измерить
или разумный путь вперед, например
просто подумайте о дилемме лосиного бара
право, я назову это, что это
металлический стержень, который расположен спереди
автомобиля, если вы удалите эти бары
большинство частей также называются кенгуру-баром
или бар правил в Австралии зависит от
какое животное вы можете поразить и
эти вещи, устраняющие их,
риск травмы на 21% для пешеходов
и риск смерти на 6%, поэтому
они запрещены во многих частях Европы
они запрещены в Австралии, но они
не запрещены в нас, так что мы
вы постоянно знаете компромиссы
о рисках , которые мы готовы
с относительными рисками в этом случае
которые определяются каким-то социальным
контракт, чтобы мы могли продолжать делать
то же самое с машинами, которые являются интеллектуальными
третье , что то же самое,
собственный психологический уклон, который вы знаете, мы
мы все еще люди
мы все еще рассуждаем о мире в
конкретные пути и совсем недавно в нашем
исследование с проблемой
исследование, которое пытается преодолеть
эти виды дилемм, поэтому мы показали
люди, их шансы на смерть от смерти
находясь на регулярной машине против
как вы знаете, согласно
прогнозы преимуществ безопасности
из этих автомобилей и люди говорят , что хорошо , что это
хороший III , но ничего не делает
для облегчения заботы людей о
быть принесенным в жертву автомобилем в порядке и
эти проблемы, несмотря на
абсолютное снижение риска может рассеиваться
люди от принятия автомобилей, и мы
видели это до того, как были шансы на всю жизнь
умереть от автомобильной аварии
астрономически выше, чем умирает от
авиакатастрофе, но еще много людей
боятся летать по воздуху по сравнению с
попав в машину, и снова нам нужно
обучать людей рассуждениям о
риска для преодоления таких
психологические предубеждения, так что это вещи
похожие, которые не новы I
подумайте, что отличает одно, что
Разница заключается в теории ума, поэтому в
в текущем регулировании в текущем
социальный контракт , который мы регулируем
сущности, которые являются людьми, мы имеем некоторые
вроде теории разума, как они могли бы
вести себя так, как им интересно, и
и что им не нравится, и мы делаем
то же самое с теми, кто управляет, но
с машинами у нас есть новый вид
агент, который немного отличается от
психологи серо и коллеги
провели исследование того, как мы воспринимаем другие
включая умы людей,
умы домашних животных и умы роботов
и, как вы можете видеть здесь, мы воспринимаем
люди , как будучи высоко на агентства по
способность принимать автономные решения как
а также высоко на опыте способность
испытывать боль удовольствия и так далее
но вы можете видеть здесь, что роботы
в какой-то степени
фактически перемещаясь вдоль оси х
здесь, но они очень низки на опыте
мы не знаем, как рассуждать об этих
виды агентов, как мы их регулируем для
один
мы не можем наказать их, потому что они не
заботиться о боли, и я думаю, что это
фундаментальный сдвиг, который мы должны думать
о том, как мы формируем эту новую социальную
заключить вторую вещь, которая
другая — адаптация за пределами
первоначальное намерение полностью
непредсказуемым образом, например,
Комиссия по ценным бумагам и биржам США
определяет манипулирование рынком как
преднамеренное поведение, предназначенное для обмана
инвесторы , но отнести намерение к
синтезированная стратегия, включающая
машинное обучение , которая адаптирует
стратегия со временем — это чрезвычайно
сложная вещь, которая делает это
очень трудно для нас , чтобы указать на
вызывают отставание или намерение
поведение — третье , что
разная скорость, так как системы становятся
быстрее и быстрее, например
алгоритмические торговые системы ускорения
может генерировать новые совершенно новые целиком
новых поведенческих режимах, например
более частые сбои вспышки и
происходит точно в точке, где
когда люди теряют способность к
вмешиваются в режиме реального времени в этих видах
системы , которые приносят целую массу
новых задач, чтобы мы могли замедлить
машины каким-то образом находят способы сохранить
они работают со скоростью, которую мы можем
не отставайте, но, очевидно, это
тип решения означает, что мы должны
замедлить нашу способность извлекать выгоду из
эти машины, и если бы мы были, если
мы приняли это в крайнем случае, применим это
принцип предосторожности я бы
сидя здесь, и мы все будем пещерными людьми
женщин, и я расскажу вам о
катастрофические последствия использования огня
проведение холдинговой цивилизации очевидно
от продвижения вперед, поэтому один из способов
эта задача скорости
использовать другие программы для использования программ для
смотри другие программы так очевидно
вместо того, чтобы иметь человека здесь, в
петля, наблюдающая алгоритм или ИИ, мы
может иметь другое наблюдение за ИИ
это то, о чем говорили некоторые люди
как программы надзора, которые я считаю
будет все чаще распространяться
Конечно, всегда есть ограничения для этого
потому что тогда кто наблюдает за алгоритмом
который сертифицирует первый алгоритм
и, очевидно, это может произойти только до сих пор
пока вы бежите из материала , чтобы построить
более мощные машины, но я думаю, что это
дает нам место, чтобы двигаться так просто
оберточной до алгоритмическая социального
контракт изменит нашу
картина регулирования двумя способами .
собирается изменить виды актеров, которые
мы регулируем и собираемся изменить
способ , которым мы регулируем человек, а так
картина выглядит примерно так:
где у вас есть алгоритмические акторы, которые
регулируются алгоритмом
Расширенные регулирующие силы, которые
положенных приносит вопрос о том, что осталось
для нас , чтобы сделать , но это то , что другое
поговорите сейчас еще одна вещь супер
интеллект эта проблема , что некоторые
люди говорят о том, что если
машины становятся настолько значительно более
умный, что все люди объединены
как мы обрабатываем эти типы
проблемы и является ли это наиболее актуальным
катастрофический риск, который может привести к
Я думаю, что человеческая цивилизация
эти проблемы не сумасшедшие
они реальны, но я думаю, что они очень
трудно предсказать и подготовиться, но я делаю
считают, что путем создания технологий и
учреждения для создания алгоритмического
социальный контракт, мы фактически находимся в
лучшее положение, чтобы быть готовым к
более широкий вызов более долгосрочным
вызов, так что спасибо
вы
[Аплодисменты]
сегодня я хочу поговорить о чем-то
это было в новостях почти каждый день
вероятно, несколько раз, и это
искусственный интеллект или ИИ, поэтому я
собираюсь использовать этот маленький мультфильм, чтобы я
привлек небольшой робот, который я собираюсь использовать
этот парень, чтобы изобразить ИИ, который был бы
робот или автомобиль без водителя или просто
алгоритм, выполняющий размещение
ресурсов, и я собираюсь спросить
вопрос о том, как мы обрабатываем
проблемы , связанные с этим
технологии так , с одной стороны , а обещания AI
многие выгоды от
рекомендации для ресторанов и
фильмы и даже романтические
более безопасные автомобили для более точных медицинских
диагноз и целая куча других
но я также поднимаю много
Проблемы , с которыми люди говорят о
очень часто в средствах массовой информации
алгоритмы, которые фильтруют новости, ставящие нас
в пузырьках фильтра для несправедливого совпадения в
рынки для массовой безработицы, конечно
и целая куча других проблем , с тем
как мы балансируем преимущества и
рискует теперь одной идеей, которая обычно
обсуждается , что нам всегда нужен человек
в петле этих систем, чтобы она
посмотри что-то вроде этого
у вас есть ИИ, который выполняет
функция , скажем, летает на самолете
вам всегда нужно положить человека в
петля, как капитан в кабине и
этот человек обеспечит, чтобы система
ведет себя в соответствии с нашими планами и
желаний, а также может вмешиваться в
в случае чего-то пойдет не так и, возможно, больше
важно, чтобы кто-то виноват
сейчас что-то пошло не так интересно
вещь, чтобы заметить об этом изображении
что все здесь имеют одну и ту же цель
поэтому большинство пассажиров, которых я бы надеялся
требуют от A до B безопасно
есть исключения, но во многих случаях
наши системы с
выполняют функции , в которых есть
несколько целей и эти цели могут быть в
конфликт, так что кто-то может быть заинтересован
честно, так что другой человек больше заботится
об эффективности и еще одном человеке
больше заботится о безопасности и этих целях
не может быть одновременно достижимо для
почему бы и нет, как мы согласны
на эти цели , прежде чем мы говорим
Машина , что делать и иметь
человек-в-петле вмешивается, так что это
меньше, чем человек в цикле
и больше похоже на общество в цикле
вызов , посредством которой общество в петле
здесь я имею в виду человека в цикле плюс
социальный контракт между заинтересованными сторонами
кто заботится о разных вещах и тому
социальный контракт призван обеспечить
соглашение, в которое люди
выберет для того, чтобы
их коллективная польза — это
необходимость и социальный контракт не
действительно новая идея, которая была вокруг для
в то время как по меньшей мере 350 лет в следующем году это
это книга Левиафана политическим
философ и экономист Томас Гоббс
и Томас Гоббс — это инновация
определить это понятие легитимности
суверенная власть, которая не приходит
сверху она не выходит из
ничего , кроме него не выходит из взаимного
согласие тех, кто управляется, если
вы увеличиваете этот государь это
всемогущий суверен, смотрящий на
Здесь вы видите, что он состоит из
сотни маленьких людей, которые выбрали
в социальный договор, отказавшись
некоторые из их индивидуальных прав и
свобод для поддержания этого
суверенная власть для обеспечения собственности
прав, а также других прав и
если эти люди откажутся от
этот контракт это очень мощная вещь
немедленно прекратит свое существование
теперь Гоббс сделал этого
мощный он сказал, что этот суверенный
должен иметь почти всю силу
принимая жизнь людей, но потом мы провели
много десятилетий фактически столетий создания поселения
этот Левиафан, и мы сделали это
введение многих сдержек и
его сила, обеспечивающая основные права
что он не может
нарушать и целую кучу других
политических событий с тех пор и
сегодня, когда мы думаем о технологии, это
важно понять, что мы создали
и поддержал и приручил Левиафана
через социальный контракт, так что сегодня, когда мы
построить технологию на своего рода киборге
суверен , состоящий из людей, как
а также алгоритмы, принимающие решения, которые
влияют на нас, мы также нуждаемся в каком-то социальном
контракт, который также является алгоритмическим, и я
хочу немного рассказать о
характер этой вещи сейчас, как и как
мы приручим его, прежде чем мы обсудим это
нам нужно говорить о том, что
регулирует, и я не могу придумать лучшего
источник или классификация вещей
которые регулируют тогда Ларри Лессига
так что там хорошо
Ларри посередине он регулируется
и он регулируется четырьмя основными силами
это из его книжного кода и других
законы киберпространства, которые были очень
влиятельный в 90-х годах как Интернет
начиналось так, что закон является одним из основных
регулирующие органы — это то, что делают правительства
но и рынки социальных норм, которые устанавливают
цены на различные виды поведения и
объектов, но и архитектуры и
это он означает как физическое
архитектуры построенная архитектура, но
также информационные объекты архитектуры
как дизайн киберпространства, так как
изменение алгоритмического социального контракта
эта картина, я думаю, с одной стороны, это
введение нового вида актера, который
требует регулирования, поэтому мы люди
до сих пор , но мы регулирование новых видов
актеры, а вместо Ларри в середине
здесь у нас есть наш маленький робот, и это
робот регулируется аналогичными
это может быть, например, куча
программ, торгующих алгоритмическим
торгового рынка, или это может быть
без водителя
городские пространства и так далее, с другой стороны
у нас теперь есть регулируемая I
человеческого поведения, а также
снова вернуться к этому изображению
и снова положил Ларри в середину
закон теперь становится AI Augmented
Прогностическая полицейская деятельность говорит полиции
где используют двух полицейских судей
алгоритмы, чтобы информировать все
решений и т. д. на рынках сейчас
используя алгоритмы для распределения покупателей и
продавцы, например, в одноранговой сети
рынками или рынками распределения поездок и
информационная архитектура
опосредовано алгоритмами, а также
какую информацию мы видим на море
информации и даже
нормы изменяются этими
алгоритмы, например, думают о датировке
сайтов и как они изменяют виды
отношения с людьми формируют так, что я
думаю , важно подумать так же, как мы
подумайте о том, как эта картина меняется
важно подумать о том, что
остались прежними и что изменилось
потому что я думаю, что вещи, которые остаются
то же самое означает, что мы все еще можем использовать
некоторые из наших старых инструментов для регулирования этого
новая среда, поэтому одна из вещей
что остается неизменным, непрозрачность и
думаю , рассмотрим, например , преподающих
машина прямо от неправильного, как что делать
конечно, вы знаете, с одной стороны, мы имеем
трудно сформулировать наши цели
но у нас всегда были трудности
формулируя цели для людей, мы также
трудно доверять другим людям и сейчас
нам трудно доверять другим
машин для соответствия этим целям и
ограничений и, конечно, даже когда даже
благие намерения могут иногда
вы знаете, что можете сказать
робот, чтобы свести к минимуму страдания, и он убивает
все люди, потому что это один из способов
достижение этой цели сейчас,
что-то не так с этой картинкой
требующих от программистов обеспечения того, чтобы
их машины этичны, прежде чем они
пусть они в дикой природе, и я думаю, что это
потому что эта цель на самом деле
высокий заказ, чтобы спросить у программистов
не просите людей открывать другие
мозг людей, чтобы проверить, являются ли они
этично , глядя на их мозг
архитектура это просто нереалистично
вместо того, что мы делаем, мы
наблюдать за поведением людей, а затем мы
держать его мы оценивали с набором
стандарты поведения — вторая вещь
что на самом деле не изменилось является
наличие неразрешимых дилемм
общий, что я был частично
ответственным за популяризацию является
этическая дилемма, что автономный автомобиль
может столкнуться с тем история идет автомобиль
как-то потерял контроль, собирается убить
некоторые пешеходы, но он способен свернуть
и убить, возможно, своих пассажиров в
Для того чтобы сохранить больше пешеходов снова
многие люди думают, что вы знаете ИИ
должен решить эту проблему, но это
проблема принципиально неразрешима
именно поэтому он называется
дилемма по определению неразрешима
и это действительно высокий порядок ожидания
машины для решения проблемы , которая бросила вызов
лучшие юридические умы и этические
философские умы для тысяч
лет, прежде чем мы добавим технологию
но это не значит, что мы можем решить
эти проблемы мы не можем измерить
или разумный путь вперед, например
просто подумайте о дилемме лосиного бара
право, я назову это, что это
металлический стержень, который расположен спереди
автомобиля, если вы удалите эти бары
большинство частей также называются кенгуру-баром
или бар правил в Австралии зависит от
какое животное вы можете поразить и
эти вещи, устраняющие их,
риск травмы на 21% для пешеходов
и риск смерти на 6%, поэтому
они запрещены во многих частях Европы
они запрещены в Австралии, но они
не запрещены в нас, так что мы
вы постоянно знаете компромиссы
о рисках , которые мы готовы
с относительными рисками в этом случае
которые определяются каким-то социальным
контракт, чтобы мы могли продолжать делать
то же самое с машинами, которые являются интеллектуальными
третье , что то же самое,
собственный психологический уклон, который вы знаете, мы
мы все еще люди
мы все еще рассуждаем о мире в
конкретные пути и совсем недавно в нашем
исследование с проблемой
исследование, которое пытается преодолеть
эти виды дилемм, поэтому мы показали
люди, их шансы на смерть от смерти
находясь на регулярной машине против
как вы знаете, согласно
прогнозы преимуществ безопасности
из этих автомобилей и люди говорят , что хорошо , что это
хороший III , но ничего не делает
для облегчения заботы людей о
быть принесенным в жертву автомобилем в порядке и
эти проблемы, несмотря на
абсолютное снижение риска может рассеиваться
люди от принятия автомобилей, и мы
видели это до того, как были шансы на всю жизнь
умереть от автомобильной аварии
астрономически выше, чем умирает от
авиакатастрофе, но еще много людей
боятся летать по воздуху по сравнению с
попав в машину, и снова нам нужно
обучать людей рассуждениям о
риска для преодоления таких
психологические предубеждения, так что это вещи
похожие, которые не новы I
подумайте, что отличает одно, что
Разница заключается в теории ума, поэтому в
в текущем регулировании в текущем
социальный контракт , который мы регулируем
сущности, которые являются людьми, мы имеем некоторые
вроде теории разума, как они могли бы
вести себя так, как им интересно, и
и что им не нравится, и мы делаем
то же самое с теми, кто управляет, но
с машинами у нас есть новый вид
агент, который немного отличается от
психологи серо и коллеги
провели исследование того, как мы воспринимаем другие
включая умы людей,
умы домашних животных и умы роботов
и, как вы можете видеть здесь, мы воспринимаем
люди , как будучи высоко на агентства по
способность принимать автономные решения как
а также высоко на опыте способность
испытывать боль удовольствия и так далее
но вы можете видеть здесь, что роботы
в какой-то степени
фактически перемещаясь вдоль оси х
здесь, но они очень низки на опыте
мы не знаем, как рассуждать об этих
виды агентов, как мы их регулируем для
один
мы не можем наказать их, потому что они не
заботиться о боли, и я думаю, что это
фундаментальный сдвиг, который мы должны думать
о том, как мы формируем эту новую социальную
заключить вторую вещь, которая
другая — адаптация за пределами
первоначальное намерение полностью
непредсказуемым образом, например,
Комиссия по ценным бумагам и биржам США
определяет манипулирование рынком как
преднамеренное поведение, предназначенное для обмана
инвесторы , но отнести намерение к
синтезированная стратегия, включающая
машинное обучение , которая адаптирует
стратегия со временем — это чрезвычайно
сложная вещь, которая делает это
очень трудно для нас , чтобы указать на
вызывают отставание или намерение
поведение — третье , что
разная скорость, так как системы становятся
быстрее и быстрее, например
алгоритмические торговые системы ускорения
может генерировать новые совершенно новые целиком
новых поведенческих режимах, например
более частые сбои вспышки и
происходит точно в точке, где
когда люди теряют способность к
вмешиваются в режиме реального времени в этих видах
системы , которые приносят целую массу
новых задач, чтобы мы могли замедлить
машины каким-то образом находят способы сохранить
они работают со скоростью, которую мы можем
не отставайте, но, очевидно, это
тип решения означает, что мы должны
замедлить нашу способность извлекать выгоду из
эти машины, и если бы мы были, если
мы приняли это в крайнем случае, применим это
принцип предосторожности я бы
сидя здесь, и мы все будем пещерными людьми
женщин, и я расскажу вам о
катастрофические последствия использования огня
проведение холдинговой цивилизации очевидно
от продвижения вперед, поэтому один из способов
эта задача скорости
использовать другие программы для использования программ для
смотри другие программы так очевидно
вместо того, чтобы иметь человека здесь, в
петля, наблюдающая алгоритм или ИИ, мы
может иметь другое наблюдение за ИИ
это то, о чем говорили некоторые люди
как программы надзора, которые я считаю
будет все чаще распространяться
Конечно, всегда есть ограничения для этого
потому что тогда кто наблюдает за алгоритмом
который сертифицирует первый алгоритм
и, очевидно, это может произойти только до сих пор
пока вы бежите из материала , чтобы построить
более мощные машины, но я думаю, что это
дает нам место, чтобы двигаться так просто
оберточной до алгоритмическая социального
контракт изменит нашу
картина регулирования двумя способами .
собирается изменить виды актеров, которые
мы регулируем и собираемся изменить
способ , которым мы регулируем человек, а так
картина выглядит примерно так:
где у вас есть алгоритмические акторы, которые
регулируются алгоритмом
Расширенные регулирующие силы, которые
положенных приносит вопрос о том, что осталось
для нас , чтобы сделать , но это то , что другое
поговорите сейчас еще одна вещь супер
интеллект эта проблема , что некоторые
люди говорят о том, что если
машины становятся настолько значительно более
умный, что все люди объединены
как мы обрабатываем эти типы
проблемы и является ли это наиболее актуальным
катастрофический риск, который может привести к
Я думаю, что человеческая цивилизация
эти проблемы не сумасшедшие
они реальны, но я думаю, что они очень
трудно предсказать и подготовиться, но я делаю
считают, что путем создания технологий и
учреждения для создания алгоритмического
социальный контракт, мы фактически находимся в
лучшее положение, чтобы быть готовым к
более широкий вызов более долгосрочным
вызов, так что спасибо
вы
[Аплодисменты]
Please follow and like us:
Be First to Comment