вы
Доброе утро, меня зовут Джош Пэкер, я
старший здесь в университете
Рочестер изучает информатику и
философия моего старшего проекта
была посвящена этическому решению
и автономных транспортных средств и
в частности, эта идея о том, как мы можем
идти о смягчении предвзятости, когда
программирование автономных транспортных средств, чтобы вы
ребята, наверное, слышали о самообслуживании
автомобили они иногда выглядят так и
больше, чем вы знаете,
технологии в автомобилях, которые вы покупаете
сегодня и эта тенденция будет продолжаться
по мере продвижения вперед технология
удивительным и позволяет
эффективности и оптимизации, но мы
также необходимо сделать много работы, чтобы сделать
Убедитесь , что эта технология безопасна , так
что люди хотят его использовать и чувствовать
комфортно, имея это как повседневную
опыт, так что я имею в виду, когда я говорю
о безопасности и автономных транспортных средствах
хорошо некоторые из вас, возможно, видели это
проблема в другом виде контекста
это известный этический вопрос, который
несколько десятилетий назад называли тележку
проблемы и для тех из вас, кто не
знаете, идея состоит в том, что вы, как наблюдатель
или свидетелем тележки, которая
к сожалению , потеряли свои тормоза рода
мчаться по трассе у пяти человек, которые
застревают, поэтому сталкиваются с их
неизбежная кончина, и вы смотрите
этой ужасной ситуации и
выбор, чтобы потянуть рычаг, который находится только в
перед вами, и если вы это сделаете, вы
отвести тележку на отдельную дорожку
только вперед , и вместо того , чтобы убить
пяти людей вы будете убивать один , так что это
люди классической проблемы вернулись
и вперед до тех пор, пока проблема
были вокруг, и они, вероятно,
продолжать делать это гораздо дольше , как
это уже несколько десятков лет
что важно, чем вы выбираете в
этот сценарий — это то, почему вы выбрали его
Конечно, вопрос в том, каковы наши
этика , что мы должны сделать что где
он становится интересным в контексте
снова самоходных автомобилей несколько лет
назад группа в MIT Media Lab сделали это
проект назвал эту могущественную моральную машину
и это веб-сайт, на который вы можете войти и
выбирать между этими тролли
сценарии, и они как бы экстраполируются
от проблемы с тележкой с несколькими
разные факторы, кроме пяти и
один, и это действительно интересно и
они, очевидно, собрали тонну
данные о том, что люди склонны делать, но
иногда то, что люди склонны делать, не
достаточно, и этого, конечно, недостаточно
знать, что мы должны делать, потому что
люди думают и что правильно, часто
совершенно разные, поэтому мы видим
вошла в довольно важную проблему
что при программировании автономных
мы не можем просто привить наши собственные
моральный fuey, потому что мы этого не знаем
достаточно, и если кто-то думает, что они знают
это они, вероятно, ошибаются или кто-то
не согласятся с ними, так что это большой
проблема, которую мы знаем, заключается в том, что
автономные транспортные средства должны быть вам
хорошо выполните следующие действия:
согласуются с нашими ценностями и
наши доверенные они должны быть в состоянии
даже лучше, чем люди, потому что
даже лучшие человеческие водители не очень хорошие
достаточно для наших самоходных автомобилей и
наконец, они должны использовать машинное обучение
попасть туда, что является одним из ключевых
позволяющие создавать современные искусственные
интеллект для тех из вас, кто не
знакомы с машинным обучением
идея заключается в том, что вы можете применить ее к
абстрактные проблемы с использованием логической математики
и статистика, поэтому, если есть какая-то цель
мы хотим добиться, но мы не знаем
точно, как туда добраться, мы можем использовать
машинное обучение , чтобы помочь нам , что есть
несколько различных видов машинного обучения
что я буду говорить об этом
довольно важно перед этим
проблема самообслуживания автомобилей Я думаю, что один
вид опции — контролируемое обучение
это довольно распространенный подход, и
идея заключается в том, что мы предоставляем огромный набор данных
и мы предоставляем все эти данные, и мы идем
через этот процесс обучения и в
делая это, мы демонстрируем, как мы можем идти
о выполнении некоторого поведения , а затем
через этот процесс обучения
алгоритм научится предсказывать
поведение, поэтому классический пример этого
чтобы мы могли иметь
много изображений кошек и собак и
с этим мы будем иметь такие
наземные истинные метки кошки и собаки, которые
мы поставляем вместе с изображениями и
наверняка вы начнете узнавать, что
изображение кошки выглядит так и собака
изображение выглядит так: экстраполяция
абстрактные шаблоны, и в конечном итоге мы
уметь подавать ему новое изображение, и это будет
скажи, что это кошка, но это собака и
проблема с этим подходом заключается в том, что
мы должны быть в состоянии обеспечить это
массивный набор данных, и если мы не чувствуем
комфортно обеспечивая этот массивный набор
данных, то мы, возможно, не должны принимать
это подкрепление обучения
другой вариант и идея здесь в том, что
вместо того, чтобы обеспечить огромное количество
данных мы можем обеспечить некоторое чувство ценности
или вознаграждение, а затем через
процесс обучения алгоритму может
научиться максимизировать эту награду и сделать
решения , которые помогают выровнять с этим
награда, и они могут не
принимать решения, против того ,
проблема здесь в плане предвзятости
что мы должны чувствовать себя комфортно
указывая награды, поэтому в этом случае мы
может иметь мышиный робот или мышь AI
перемещение лабиринта, который начинается случайно
путем проб и ошибок, и мы указываем
через лабиринт некоторые негативные утилиты
и некоторые положительные
в конечном итоге это сожжет
негативные утилиты и выбрать хороший
хороший путь, поэтому мы должны чувствовать
комфортно поставляя эти награды в
любая настройка, в которой мы хотим использовать
усиление обучения более сложное
пример этих, казалось бы, простых
подходы были бы такими, как это
и для тех из вас, кто не признает
это это древняя китайская доска
игра называется go, и она стала золотом
стандарт для большого количества искусственных
разведки это действительно
сложный
это доска 19-19, и есть больше
возможные конфигурации игры, чем
есть частицы во Вселенной, поэтому
само собой разумеется, что это действительно сложно
и именно поэтому это отличный способ
испытайте наш искусственный интеллект, чтобы
есть группа, называемая глубоким умом, которая
теперь Google, который делал эти
действительно интересный ИИ называется alphago
которые являются глазами, которые играют в эту игру и
они избили лучших игроков из США
там самый последний и, возможно,
наиболее интересным для наших целей является
alphago zero, который, как следует из названия
начинается с очень низкого уровня
интеллект, как вы можете видеть, мы его даем
очень ограниченный объем информации мы заранее
не предоставляют огромный набор данных, которые мы могли бы
предоставить правила игры и как
вы можете создать следующие юридические
двигаться, и все об этом
и из этого он учится играть
очень хорошо, и если вы оглянетесь назад
на график, который он фактически учит играть
лучше , чем любая другая версия идти
пунктирная линия графика
представляет собой ориентир человеческой игры
человеческая экспертная игра из другой версии
называемый альфа-вратарь, и вы увидите, что
поднадзорный подход к обучению и
не совсем передает его, потому что он никогда
может потому, что, как мы сказали, контролируется
обучение просто предсказывает наше поведение
но alphago 0 и синий могут
превзойти предыдущие ранее
непревзойденный стандарт перед слишком большим
время даже необходимо в обучении и
это означает, что он может
умные способы и играть действительно умные шаги
и одна из версий алфавита, которая
использовали такой же подход он играл
движение против чемпиона мира идет
игрока, которого никто не ожидал и не думал
было пропущено все мысли были
ошибка, но оказывается, что выиграла игру
несколько шагов позже, и это
невероятный дискурс среди идущих
iasts, так что это действительно крутая настольная игра
но самоходные автомобили действительно
сложнее и более того, чем они
также важно в том, что настольные игры
не потому что, если самозаводящийся автомобиль
путает кто — то может умереть , поэтому мы хотим
уделять немного больше внимания тому, что
мы, как мы программируем эти автомобили, что
различия между действительно
умный подход, такой как alphago zero и
то , что нам нужно было бы изменить, чтобы
получить что-то вроде автономных автомобилей, чтобы
работать , как мы хотим , чтобы они хорошо друг с
правила алфавита ноль, и мы были в прошлом
действительно определенно хорошо, но правила
так сказать, о проблеме
самонаводящие автомобили, или нет, я имею в виду эти
это моральные правила, которые мы говорили
о до этого неуловимый и мы
не могут быть теми, кто их заявляет
явно и привязать их, потому что если
мы ошибаемся, последствия будут
катастрофический, есть и другие
вопрос о том , что следующие государства , рода
о том, что может случиться дальше, не так
четко определена, хотя НПО
есть много разных вариантов, которые вы могли бы
технически перечислять их, если хотите
и в реальном мире это просто не
так это то , что сумасшедший может
случится, что Сокол Миллениума может упасть
с неба, и мы не знаем, как это сделать
мы вроде как решаем эту проблему, просто думаю
для решения первой проблемы эта идея
не имея правил, которые мы должны создать
то, что мы даем этому алгоритму
Я врожденно говорю, что мы должны создать
какое-то понятие примитивной ценности что-то
это фундаментальная и непоколебимая некоторые
вид нравственной истины, что большинство людей
не будет пытаться не согласиться с
это может быть что-то вроде всего
разумная жизнь или всякая человеческая жизнь
внутренняя мораль стоит чего-то вроде
это, а затем оттуда мы позволили
машина делает больше работы вместо
мы предоставляем эти четкие правила и
рискуя ошибиться, что я имею в виду
то есть с подходом вроде alphago
zeroes вы можете предоставить что-то основанное
как это , как правило
игры, и выяснить это через
процесс проб и ошибок при поиске и
играя сам, какие решения приводят к
хорошие ходы, которые выровнены с этими
ценности и какие решения приводят к настоящему
ужасные ходы, не совпадающие с
эти значения, поэтому он будет абстрактным и
создавать моральные истины более высокого уровня без
нам нужно это сделать и решить
проблема незнания следующего состояния
мы могли бы иметь отдельную систему , которая
некоторые знания о физических законах
Конечно, это
очень сложный, но это не
немыслимые производители автомобилей и
автопроизводители имеют тонны данных на автомобиле
аварии и то, что люди обычно делают
неправильно, поэтому у нас уже есть хорошее чувство
что не может быть хорошей идеей или
что может привести к краху, давайте вернемся
к этому понятию примитивной ценности и нет
это не ошибка, что это означает
которые могут поднимать наши роботы, не так
отличается от воспитываем наших детей
в каком-то смысле мы не говорим нашим детям
все или сделать их копии углерода
нас, потому что невозможно, мы не сможем
может попробовать, но мы не можем вместо этого думать
как это может быть, это ребенок с
естественное любопытство, изучающее
мира, но имеет это лежащее в основе врожденное
машины, например, у всех нас есть
чувство боли не означает, что мы знаем, что
причиняет боль, или мы знаем, что нам не делать
должны найти это через беспорядок
но ребенок может затронуть действительно горячий
печь, а затем потом, вероятно, никогда
сделайте это снова, потому что это действительно больно и
этот процесс имеет решающее значение, поскольку
разведка, и это то же самое
как альфаго нуля или то, что я предлагаю
здесь мы должны что-то поставлять
врожденно, но мы не можем предоставить все
врожденное, что должно быть сделано через
так что это означает, что um
мы имеем такого рода эволюционный
подход и эволюционный подход
означает, что мы вроде как обеспечиваем что-то
а затем мы допускаем для машины
больше узнать о себе, и вы можете
хорошо подумайте, что это звучит хорошо
но этого недостаточно, достаточно ли этого
просто предоставить немного
формирующей моральной истины и доверия, что
машина получает это, конечно, не
это не собирается вырезать, и это может пойти
ужасно неправильно, поэтому мы не хотим просто
сделайте то, что мы можем сделать вместо этого, мы можем
начните с этого, а затем через это
процесс обучения, который мы можем сделать
контрольно-пропускные пункты на том пути, где мы говорим
вот сценарий, что вы собираетесь
делать в этом случае , и мы можем увидеть , если она
имеет смысл, и если люди согласятся, что это
имеет смысл или если это ужасная идея
и если это ужасная идея, мы можем
если это ужасно
Идея мы можем сказать нет , и вместо
с указанием структурных изменений
прямо или
вручную и меняя код, мы можем
пусть машина сама делает это
это можно сказать, так как это всего лишь куча
вероятности и числа в любом случае это
я был самым
это был мой номер один, который был
мое решение, но если мы скажем, что это не
хорошая идея
он может выбрать этот номер два или
номер три, и он может сделать это в
множество различных конфигураций
потому что он, очевидно, очень сложный и
есть много разных узлов, так что
этот процесс мы можем продолжить это объявление
тошноту и придумать решение, которое
фактически заканчивается тем, что мы
хотите, чтобы это было с точки зрения наших ценностей, мы
может иметь систему, которая согласуется с нашей
потому что мы его протестировали
строго, но нам не нужно
прямо определяют наши моральные истины в
чтобы попасть туда, если вы
как мы говорили
о ранее мы не знаем наших истин
достаточно просто, чтобы просто упростить их в
это будет катастрофа
вместо этого мы можем встретить машину на полпути
и позволить ему сделать некоторые работы,
хорошо я знаю , что это кажется нелогичным
думаю, что самый безопасный вариант на самом деле
пройти этот средний путь, но я действительно
думаю, что в этом случае невероятно
преимущества самозанятых автомобилей, и мы
хочу иметь возможность воспользоваться этими преимуществами
эффективности безопасности и многое другое
и я считаю, что единственный
делать это правильно , чтобы позволить машине
иметь больше свободы, чем мы бы
изначально думали и
инструмент проверки в качестве стандарта
и убедитесь, что ничего плохого
когда-либо попадет в руки
потребителей или тех , кто желает участвовать в
использование самостоятельного вождения автомобилей это будет
обеспечить самообеспечение будущего и сделать
наша жизнь намного проще, спасибо
[Аплодисменты]
Доброе утро, меня зовут Джош Пэкер, я
старший здесь в университете
Рочестер изучает информатику и
философия моего старшего проекта
была посвящена этическому решению
и автономных транспортных средств и
в частности, эта идея о том, как мы можем
идти о смягчении предвзятости, когда
программирование автономных транспортных средств, чтобы вы
ребята, наверное, слышали о самообслуживании
автомобили они иногда выглядят так и
больше, чем вы знаете,
технологии в автомобилях, которые вы покупаете
сегодня и эта тенденция будет продолжаться
по мере продвижения вперед технология
удивительным и позволяет
эффективности и оптимизации, но мы
также необходимо сделать много работы, чтобы сделать
Убедитесь , что эта технология безопасна , так
что люди хотят его использовать и чувствовать
комфортно, имея это как повседневную
опыт, так что я имею в виду, когда я говорю
о безопасности и автономных транспортных средствах
хорошо некоторые из вас, возможно, видели это
проблема в другом виде контекста
это известный этический вопрос, который
несколько десятилетий назад называли тележку
проблемы и для тех из вас, кто не
знаете, идея состоит в том, что вы, как наблюдатель
или свидетелем тележки, которая
к сожалению , потеряли свои тормоза рода
мчаться по трассе у пяти человек, которые
застревают, поэтому сталкиваются с их
неизбежная кончина, и вы смотрите
этой ужасной ситуации и
выбор, чтобы потянуть рычаг, который находится только в
перед вами, и если вы это сделаете, вы
отвести тележку на отдельную дорожку
только вперед , и вместо того , чтобы убить
пяти людей вы будете убивать один , так что это
люди классической проблемы вернулись
и вперед до тех пор, пока проблема
были вокруг, и они, вероятно,
продолжать делать это гораздо дольше , как
это уже несколько десятков лет
что важно, чем вы выбираете в
этот сценарий — это то, почему вы выбрали его
Конечно, вопрос в том, каковы наши
этика , что мы должны сделать что где
он становится интересным в контексте
снова самоходных автомобилей несколько лет
назад группа в MIT Media Lab сделали это
проект назвал эту могущественную моральную машину
и это веб-сайт, на который вы можете войти и
выбирать между этими тролли
сценарии, и они как бы экстраполируются
от проблемы с тележкой с несколькими
разные факторы, кроме пяти и
один, и это действительно интересно и
они, очевидно, собрали тонну
данные о том, что люди склонны делать, но
иногда то, что люди склонны делать, не
достаточно, и этого, конечно, недостаточно
знать, что мы должны делать, потому что
люди думают и что правильно, часто
совершенно разные, поэтому мы видим
вошла в довольно важную проблему
что при программировании автономных
мы не можем просто привить наши собственные
моральный fuey, потому что мы этого не знаем
достаточно, и если кто-то думает, что они знают
это они, вероятно, ошибаются или кто-то
не согласятся с ними, так что это большой
проблема, которую мы знаем, заключается в том, что
автономные транспортные средства должны быть вам
хорошо выполните следующие действия:
согласуются с нашими ценностями и
наши доверенные они должны быть в состоянии
даже лучше, чем люди, потому что
даже лучшие человеческие водители не очень хорошие
достаточно для наших самоходных автомобилей и
наконец, они должны использовать машинное обучение
попасть туда, что является одним из ключевых
позволяющие создавать современные искусственные
интеллект для тех из вас, кто не
знакомы с машинным обучением
идея заключается в том, что вы можете применить ее к
абстрактные проблемы с использованием логической математики
и статистика, поэтому, если есть какая-то цель
мы хотим добиться, но мы не знаем
точно, как туда добраться, мы можем использовать
машинное обучение , чтобы помочь нам , что есть
несколько различных видов машинного обучения
что я буду говорить об этом
довольно важно перед этим
проблема самообслуживания автомобилей Я думаю, что один
вид опции — контролируемое обучение
это довольно распространенный подход, и
идея заключается в том, что мы предоставляем огромный набор данных
и мы предоставляем все эти данные, и мы идем
через этот процесс обучения и в
делая это, мы демонстрируем, как мы можем идти
о выполнении некоторого поведения , а затем
через этот процесс обучения
алгоритм научится предсказывать
поведение, поэтому классический пример этого
чтобы мы могли иметь
много изображений кошек и собак и
с этим мы будем иметь такие
наземные истинные метки кошки и собаки, которые
мы поставляем вместе с изображениями и
наверняка вы начнете узнавать, что
изображение кошки выглядит так и собака
изображение выглядит так: экстраполяция
абстрактные шаблоны, и в конечном итоге мы
уметь подавать ему новое изображение, и это будет
скажи, что это кошка, но это собака и
проблема с этим подходом заключается в том, что
мы должны быть в состоянии обеспечить это
массивный набор данных, и если мы не чувствуем
комфортно обеспечивая этот массивный набор
данных, то мы, возможно, не должны принимать
это подкрепление обучения
другой вариант и идея здесь в том, что
вместо того, чтобы обеспечить огромное количество
данных мы можем обеспечить некоторое чувство ценности
или вознаграждение, а затем через
процесс обучения алгоритму может
научиться максимизировать эту награду и сделать
решения , которые помогают выровнять с этим
награда, и они могут не
принимать решения, против того ,
проблема здесь в плане предвзятости
что мы должны чувствовать себя комфортно
указывая награды, поэтому в этом случае мы
может иметь мышиный робот или мышь AI
перемещение лабиринта, который начинается случайно
путем проб и ошибок, и мы указываем
через лабиринт некоторые негативные утилиты
и некоторые положительные
в конечном итоге это сожжет
негативные утилиты и выбрать хороший
хороший путь, поэтому мы должны чувствовать
комфортно поставляя эти награды в
любая настройка, в которой мы хотим использовать
усиление обучения более сложное
пример этих, казалось бы, простых
подходы были бы такими, как это
и для тех из вас, кто не признает
это это древняя китайская доска
игра называется go, и она стала золотом
стандарт для большого количества искусственных
разведки это действительно
сложный
это доска 19-19, и есть больше
возможные конфигурации игры, чем
есть частицы во Вселенной, поэтому
само собой разумеется, что это действительно сложно
и именно поэтому это отличный способ
испытайте наш искусственный интеллект, чтобы
есть группа, называемая глубоким умом, которая
теперь Google, который делал эти
действительно интересный ИИ называется alphago
которые являются глазами, которые играют в эту игру и
они избили лучших игроков из США
там самый последний и, возможно,
наиболее интересным для наших целей является
alphago zero, который, как следует из названия
начинается с очень низкого уровня
интеллект, как вы можете видеть, мы его даем
очень ограниченный объем информации мы заранее
не предоставляют огромный набор данных, которые мы могли бы
предоставить правила игры и как
вы можете создать следующие юридические
двигаться, и все об этом
и из этого он учится играть
очень хорошо, и если вы оглянетесь назад
на график, который он фактически учит играть
лучше , чем любая другая версия идти
пунктирная линия графика
представляет собой ориентир человеческой игры
человеческая экспертная игра из другой версии
называемый альфа-вратарь, и вы увидите, что
поднадзорный подход к обучению и
не совсем передает его, потому что он никогда
может потому, что, как мы сказали, контролируется
обучение просто предсказывает наше поведение
но alphago 0 и синий могут
превзойти предыдущие ранее
непревзойденный стандарт перед слишком большим
время даже необходимо в обучении и
это означает, что он может
умные способы и играть действительно умные шаги
и одна из версий алфавита, которая
использовали такой же подход он играл
движение против чемпиона мира идет
игрока, которого никто не ожидал и не думал
было пропущено все мысли были
ошибка, но оказывается, что выиграла игру
несколько шагов позже, и это
невероятный дискурс среди идущих
iasts, так что это действительно крутая настольная игра
но самоходные автомобили действительно
сложнее и более того, чем они
также важно в том, что настольные игры
не потому что, если самозаводящийся автомобиль
путает кто — то может умереть , поэтому мы хотим
уделять немного больше внимания тому, что
мы, как мы программируем эти автомобили, что
различия между действительно
умный подход, такой как alphago zero и
то , что нам нужно было бы изменить, чтобы
получить что-то вроде автономных автомобилей, чтобы
работать , как мы хотим , чтобы они хорошо друг с
правила алфавита ноль, и мы были в прошлом
действительно определенно хорошо, но правила
так сказать, о проблеме
самонаводящие автомобили, или нет, я имею в виду эти
это моральные правила, которые мы говорили
о до этого неуловимый и мы
не могут быть теми, кто их заявляет
явно и привязать их, потому что если
мы ошибаемся, последствия будут
катастрофический, есть и другие
вопрос о том , что следующие государства , рода
о том, что может случиться дальше, не так
четко определена, хотя НПО
есть много разных вариантов, которые вы могли бы
технически перечислять их, если хотите
и в реальном мире это просто не
так это то , что сумасшедший может
случится, что Сокол Миллениума может упасть
с неба, и мы не знаем, как это сделать
мы вроде как решаем эту проблему, просто думаю
для решения первой проблемы эта идея
не имея правил, которые мы должны создать
то, что мы даем этому алгоритму
Я врожденно говорю, что мы должны создать
какое-то понятие примитивной ценности что-то
это фундаментальная и непоколебимая некоторые
вид нравственной истины, что большинство людей
не будет пытаться не согласиться с
это может быть что-то вроде всего
разумная жизнь или всякая человеческая жизнь
внутренняя мораль стоит чего-то вроде
это, а затем оттуда мы позволили
машина делает больше работы вместо
мы предоставляем эти четкие правила и
рискуя ошибиться, что я имею в виду
то есть с подходом вроде alphago
zeroes вы можете предоставить что-то основанное
как это , как правило
игры, и выяснить это через
процесс проб и ошибок при поиске и
играя сам, какие решения приводят к
хорошие ходы, которые выровнены с этими
ценности и какие решения приводят к настоящему
ужасные ходы, не совпадающие с
эти значения, поэтому он будет абстрактным и
создавать моральные истины более высокого уровня без
нам нужно это сделать и решить
проблема незнания следующего состояния
мы могли бы иметь отдельную систему , которая
некоторые знания о физических законах
Конечно, это
очень сложный, но это не
немыслимые производители автомобилей и
автопроизводители имеют тонны данных на автомобиле
аварии и то, что люди обычно делают
неправильно, поэтому у нас уже есть хорошее чувство
что не может быть хорошей идеей или
что может привести к краху, давайте вернемся
к этому понятию примитивной ценности и нет
это не ошибка, что это означает
которые могут поднимать наши роботы, не так
отличается от воспитываем наших детей
в каком-то смысле мы не говорим нашим детям
все или сделать их копии углерода
нас, потому что невозможно, мы не сможем
может попробовать, но мы не можем вместо этого думать
как это может быть, это ребенок с
естественное любопытство, изучающее
мира, но имеет это лежащее в основе врожденное
машины, например, у всех нас есть
чувство боли не означает, что мы знаем, что
причиняет боль, или мы знаем, что нам не делать
должны найти это через беспорядок
но ребенок может затронуть действительно горячий
печь, а затем потом, вероятно, никогда
сделайте это снова, потому что это действительно больно и
этот процесс имеет решающее значение, поскольку
разведка, и это то же самое
как альфаго нуля или то, что я предлагаю
здесь мы должны что-то поставлять
врожденно, но мы не можем предоставить все
врожденное, что должно быть сделано через
так что это означает, что um
мы имеем такого рода эволюционный
подход и эволюционный подход
означает, что мы вроде как обеспечиваем что-то
а затем мы допускаем для машины
больше узнать о себе, и вы можете
хорошо подумайте, что это звучит хорошо
но этого недостаточно, достаточно ли этого
просто предоставить немного
формирующей моральной истины и доверия, что
машина получает это, конечно, не
это не собирается вырезать, и это может пойти
ужасно неправильно, поэтому мы не хотим просто
сделайте то, что мы можем сделать вместо этого, мы можем
начните с этого, а затем через это
процесс обучения, который мы можем сделать
контрольно-пропускные пункты на том пути, где мы говорим
вот сценарий, что вы собираетесь
делать в этом случае , и мы можем увидеть , если она
имеет смысл, и если люди согласятся, что это
имеет смысл или если это ужасная идея
и если это ужасная идея, мы можем
если это ужасно
Идея мы можем сказать нет , и вместо
с указанием структурных изменений
прямо или
вручную и меняя код, мы можем
пусть машина сама делает это
это можно сказать, так как это всего лишь куча
вероятности и числа в любом случае это
я был самым
это был мой номер один, который был
мое решение, но если мы скажем, что это не
хорошая идея
он может выбрать этот номер два или
номер три, и он может сделать это в
множество различных конфигураций
потому что он, очевидно, очень сложный и
есть много разных узлов, так что
этот процесс мы можем продолжить это объявление
тошноту и придумать решение, которое
фактически заканчивается тем, что мы
хотите, чтобы это было с точки зрения наших ценностей, мы
может иметь систему, которая согласуется с нашей
потому что мы его протестировали
строго, но нам не нужно
прямо определяют наши моральные истины в
чтобы попасть туда, если вы
как мы говорили
о ранее мы не знаем наших истин
достаточно просто, чтобы просто упростить их в
это будет катастрофа
вместо этого мы можем встретить машину на полпути
и позволить ему сделать некоторые работы,
хорошо я знаю , что это кажется нелогичным
думаю, что самый безопасный вариант на самом деле
пройти этот средний путь, но я действительно
думаю, что в этом случае невероятно
преимущества самозанятых автомобилей, и мы
хочу иметь возможность воспользоваться этими преимуществами
эффективности безопасности и многое другое
и я считаю, что единственный
делать это правильно , чтобы позволить машине
иметь больше свободы, чем мы бы
изначально думали и
инструмент проверки в качестве стандарта
и убедитесь, что ничего плохого
когда-либо попадет в руки
потребителей или тех , кто желает участвовать в
использование самостоятельного вождения автомобилей это будет
обеспечить самообеспечение будущего и сделать
наша жизнь намного проще, спасибо
[Аплодисменты]
Please follow and like us:
Be First to Comment