Press "Enter" to skip to content

A Cooperative Path to Artificial Intelligence | Michael Littman | TEDxBoston


[Музыка]
Я хотел бы рассказать вам о моих детях не
просто потому, что я гордый папа, но также
потому что я думаю, что их ранний опыт
обеспечить интересную перспективу
разные способы, которые мы думали
о создании интеллектуальных систем, поэтому
max, когда он был ребенком, мы решили на одном
что он достаточно взрослый, чтобы окончить
от его кроватки до кровати большого мальчика, чтобы мы
поместили в кроватку, мы положили кровать в
мы укладываем его в кроватку и
На следующее утро он позвонил нам, чтобы спросить нас
вы знаете, что вытащите его с кровати так,
что он может начать свой день, и поэтому мы
вошел, и мы объяснили ему все в порядке
Посмотрите, как работает кровать
вы только столько дюймов от
пол просто садитесь на кровать, положите
ноги на полу , вы хорошо идти так
нам никогда не приходилось повторять его, но это
было не то, что он придумал
его собственный, и это было типичным
собственность Макса, за которой он последует
правила в некоторых случаях очень сложные правила
но он, как правило, не обнаружил правил
сам по себе контрастирует с Молли
вы знаете Молли, когда Молли была ребенком
в какой-то момент мы только обнаружили ее странствие
утром по всему
квартиру она каким-то образом получила
крошечное тельце через барьер
кроватка в комнату вышла из двери
как-то и просто собирался о ней
бизнес в какой момент мы решили хорошо
ну, я думаю, она готова к большой девушке
и это было своеобразной собственностью
Молли довольно часто
склонны делать, это создавать свои собственные правила, она
посмотрел бы на окружающую среду, понимая
модели , которые шли вокруг и
решил для себя, что делать, и это
было замечательно, что это было очень
было меньше того, что мы должны были сказать ей
о том, что делать, с другой стороны, это
сделала ей несколько неинтрузированный мяч, так что
если бы мы хотели, чтобы она что-то сделала
трудно сказать ей, что делать, потому что
у нее уже было свое представление о
что нужно сделать, и поэтому эти же
описания фактически применяются к двум
основные способы создания систем ИИ
термины physis — это хороший старомодный AI
когда мы строим интеллектуальные системы посредством
программисты люди записывают много
правила, дающие им систему, а затем
наличие системы делает вывод и
решение проблемы, чтобы фактически использовать эти
правила, чтобы решить, что делать в отличие
машинное обучение — это метод для
создание интеллектуальных
системы, в которых мы делаем, мы создаем
программы, а затем мы сбрасываем тонны и тонны
и тонны данных на нем, в которые он
извлекает паттерны, если находит
закономерности в этих данных, а затем
относится то , что он научился решать
проблема , изначально изначально изложенная
решить, и они оба очень
мощные и очень полезные способы
решение проблем, но я хочу спорить
что еще что-то не хватает
в них все еще есть что
на самом деле не получить нам всю дорогу туда
и попытаться получить эту идею через аренду
я даю вам сценарий, так что скажем, что
вам, что вам действительно понравится в вашей жизни
должен иметь робота, который принесет вам
утром я пользуюсь этим
например, потому что я
смотрел много фильмов, и я довольно
уверен, что Голливуд хочет сделать
это сделать роботов, которые приносят нам кофе
утром в любое время есть фильм
с изобретателем в нем, если он вернулся к
будущее или большое приключение
всегда есть изобретатель, что
изобретатель всегда изобретает способы
доставляя нам наш кофе утром, поэтому
поэтому я предполагаю, что это то, что мы здесь
как создатели системы ИИ, и я принимаю
эта ответственность так давайте скажем, что
это то, что мы хотим сделать, мы хотим получить
вы, ваш кофе утром, чтобы вы
решить , хорошо это то , что мне нужно сделать , я
собираюсь создать такой робот
системы, первое, что вы понимаете, это
что вам понадобится какая-то
физический робот , так что вы спуститесь к вашему
местный домашний магазин роботов и от всех
разные роботы, доступные вам
решил выбрать одну из них и скажем ни
это очень хороший робот, я назову его
Мы с Джеффом привезем его в мой дом, чтобы
вы идете домой с Джеффом , и теперь Джефф
готов помочь вам, но Джефф не знает
что вы хотите, и поэтому вам теперь нужно
создать какую- то программу своего рода
Система AI, которая собирается управлять Джеффом
решить проблему, которую вы хотите решить
который доставит вам ваш кофе, чтобы вы
я говорю, что человек ngo5 почти я
собираюсь создать хороший старомодный ИИ
системы Я собираюсь написать программу, которая
робот будет следовать и следующим образом
эта программа решит мою проблему и
что вы обнаруживаете очень рано даже
хотя вы отличный программист
программирование на самом деле действительно
отличается от программирования другими видами
систем, это очень сложно
придется обрабатывать множество странных уголков
случаях сами программы становятся
очень сложно
так что, возможно, вы расстроены
вы, как вы знаете, что больше не с
ОХ тьфу я собираюсь перейти
— до машинного обучения я слышал
это очень хорошо, что вы открываете для себя
сразу, что это действительно кажется
быть намного лучше, вместо того, чтобы
скажите роботу, что делать в каждом подарке
учитывая возможную ситуацию, вы должны
определить целевую функцию , вы должны
определить, какие правила должны быть
попытайтесь следовать, и ваши правила
должен ли я иметь кофе в некоторых
утром вы не должны ломаться
любые кружки на пути, чтобы сделать это, и не
слишком много шума, когда вы делаете
кофе, потому что это меня разбудит
и вы можете определить, что в качестве серии
вид расходов, а затем вы говорите
робот, это все это твои
инструкции теперь делают так и то, что вы
обнаружить, что, хотя это и началось
как довольно простая вещь из вашего
перспектива все еще довольно
разочарование, потому что робот не
понять все это мгновенно имеет
узнать, что вы находите, на некоторых
укажите робота, которого вы знаете через несколько недель
после того, как вы ждали своего
кофе, робот обнаружил, что
он блуждает по дому, может быть,
не знает о кофейных кружках, но это
получил растение в горшках, и это не правда
принося кофе вам в спальне
это своего рода висит в ванной комнате
по какой-то причине с котом, и это не
даже ваша кошка любит то, что происходит с
это вы знаете своего пациента, пока не
подождите еще через несколько недель робот
будет лучше сказать, что у него есть
кружка кофе сейчас, и это на кухне
так что кажется уместным , что все еще есть что
кошка, хотя
так что вы разочарованы и
вероятно, что бы вы сделали, вероятно, что
Я бы сделал в этой ситуации попытку
вмешиваться в какой — то способ это как да это
было бы здорово, если бы просто
спонтанно изобретать все, что
Мне нужно было изобретать, но это спасло бы
много времени, если бы я мог просто сказать, что
Я хотел это сделать
и вот в чем суть идеи
что я хочу выдвинуть понятие
совместный искусственный интеллект
предполагается, что в нем предполагается кооперативный ИИ
сильные стороны двух других способов
создание систем искусственного интеллекта
как машинное обучение, оно воплощено в
мир, который робот в мире
испытывать вещи, и он может
его опыт в решении задач,
на самом деле пытается выполнить , но
Phi мы, как программисты, мы, как
люди в системе на самом деле
определите задачу, которую мы хотим выполнить
чтобы мы помогли системе сделать то, что
это должно помочь нам, поэтому основные
Идея здесь заключается в том, что
человек фактически становится действительно центральным
компонента в
создание системы ИИ и то , что
работа человека — это предоставление обратной связи по
желательно поведение человека
внимание учащихся, так что все
миллионы вещей, которые он мог бы заплатить
внимание к ней обращает внимание на
что важно, а затем, наконец,
человек тренер имеет возможность
дать роботу определенные виды
опытом в определенном порядке
которые помогают ему создавать концептуальные
Структура , что это будет необходимо
решить эту проблему и ту часть , я думаю ,
это очень аккуратно и очень
недооцененный в поле, поэтому позвольте мне
сосредоточьтесь на этой идее немного, чтобы
когда мы тренируем робота в этом
мы представляем его серией
задач, и эти задачи должны быть
выбранным определенным образом
необходимо ввести проблемы, с тем чтобы
они не ни слишком большой шаг и
поэтому может быть слишком сложно решить
для системы и не слишком малый шаг
то есть не делать достаточно
прогресс в конечном счете, что вы
пытаясь самим обучать задания
должны быть вам известны и
недвусмысленный и полезный, поэтому робот
следует обратить внимание на то, что
вы говорите это, и в конечном счете, если
эти вещи работают компетенции
роботизированная система исходит из восхождения
эта лестница компетенции путем решения
каждой из отдельных задач, которые вы
набор для робота, который он получит
лучше, что это такое, что предполагается
теперь я называю это теорией портала
интеллекта это может быть , уже прошло
некоторые другие названия о ИТАК Джефф
указывая на то , что на самом деле
психологи и образование Пирр
это как зона проксимального развития
идея , что вы всегда преподающие
немного за пределами текущего
компетентность обучающегося теперь я не сделал
знаю этот термин, когда я начинаю сначала
начал работать над этим, я не проводил
много времени на чтение образования
литературы, которую я, вероятно, должен был бы
на самом деле я тратил много времени
играть в видеоигры, которые, возможно, я
не должен иметь портала, если вы не знаете
об этом — видеоигра, которая действительно
круто, и я расскажу вам немного
немного об этом, потому что я думаю, что это
действительно полезны в этом конкретном
контекст, так что портал — это человек первого лица
стрелок, но вы не стреляете в пули
ты не убиваешь то, что ты
фактически снимая дверные проемы на поверхностях
когда эти дверные проемы существуют на самом деле
соединяет точки в пространстве и позволяет вам
пройти через них, следовательно, название портала
это немного сложно увидеть в
точка зрения первого лица, поэтому позвольте мне просто
показать вам одну из проблем в
схематично , так что вы находитесь в
мир пытается выбраться из мира
пытаясь добраться до большой красной кнопки
который собирается выпустить вас и что
вы очень быстро заметили , что
Поместите барьер перед тем, как кнопка
немного слишком сложно, чтобы немного подняться
бит слишком высокий
но то, что вы узнали в течение курса
серия уровней заключается в том, что у вас есть это
портальный пистолет, и вы можете использовать его для стрельбы
дверях на вещи, и на самом деле, если вы
стрелять в дверной проем, где вы стоите
и один рядом с кнопкой эти два
места в космосе становятся связанными и
то все , что вам нужно сделать , это пройти через
один из них , и вы появитесь из другого
один, и вы доберетесь туда, куда идете
это на самом деле очень хороший трюк он
было бы очень весело, если бы мы могли это сделать в
реальный мир, но в этом искусственном
мир, вы можете это сделать полностью и вы
необходимо это, чтобы иметь возможность решить
проблемы, которые возникают, и это не
единственный способ использовать портал
другие способы использования порталов, поэтому позвольте мне дать
вы еще один пример, давайте возьмем
такой же сценарий, кроме
к кнопке нет, поэтому вы не можете стрелять
портал там вы не можете выйти дальше
к кнопке , что ты собираешься делать
что происходит, дизайнеры
игра создала серию уровней
которые представляют все идеи, которые вы
вам нужно и просто оставить вас прямо на
край объединения этих идей
решить проблему и что вы
понимаете, когда думаете об этом для
пока ждите секунду, если я поставлю портал
на полу и один на стене высокой
выше меня, а затем спрыгнуть с полки
в яму я вылечу из
другое отверстие с тем же импульсом, что и я
вошел в дыру, прыгая через
выступ и посадка на кнопку tada все
так что это действительно опрятный трюк и
опять же этого не происходит в
реальный мир, но в этом искусственном мире
вы узнаете, как использовать эти
специальные виды инструментов и игры
дизайнеры учат вас этому и создают
эта компетенция в вас путем введения
вы к этой серии уровней это действительно
очень красивая идея, и это очень
подобно тому, что вы думаете
о выполнении в реальном мире, а так
например, предположим, что у вас есть
собака, если вы хотите, чтобы эта собака вымылась
свои игрушки, если вы, ребята , пойдете
онлайн и искать это как задачу
вы найдете инструкции для вещей
что вам нужно научить собаку
уровнях портала, которые вам нужно
собака, чтобы заставить ее решить эту задачу
это не вопрос просто держит
лечить и говорить, что вы убираете свои игрушки
правильно, вам нужно, чтобы собака
это то же самое происходит с
научить ребенка плавать, вы не хотите
просто возьмите ребенка и бросьте ребенка в
в океане это то, как мой отец учил моих
кузен плавать, и это не рекомендуется
действительно, что вы хотите сделать, это
это в серии проблем и так
снова я вышел в интернет, и это
инструкции для обучения плавать , если вам
хочу снова изучить передовую математику
вы хотите начать и
там, и это не только для детей или
животных или
если вы хотите стать генеральным директором, вы можете пойти
онлайн и в wiki, как это говорит вам просто
как это сделать, есть серия уровней
к нему, как к уровням портала, и каждый из них
вы знаете относительно легко, учитывая те
под ним и в конце увидимся теперь я
не пробовал это , но я тебя
знаю, что в какой-то момент у меня возникает соблазн, поэтому
давайте рассмотрим эту идею и вернуть его обратно
к проблеме приведения кофе
потому что вы знаете эти другие проблемы
мы не так важны, чтобы
кофе для решения проблемы
робот, приносящий кофе одну вещь, которая
это нужно, чтобы иметь возможность сделать это
узнайте свою кофемашину
кофе , и поэтому это может быть
создана как контролируемая проблема обучения
поэтому контролируемое обучение — это машина
проблема обучения
распознавать шаблоны и классифицировать вещи
как положительные или отрицательные случаи
концепции предоставления, поэтому, если я хочу
обучить моего робота контролируемым обучением
то , что мне нужно , это гигантская база данных
изображения, большинство из которых я обозначаю как не
кофеварка и некоторые из которых я наклейка
как кофеварка, а затем
должны пройти эти данные и
разработать концепцию, которая будет правильно
отдельные кофеварки из не кофе
машин, и это на самом деле проблема
это довольно хорошо
сверточные нейронные сети очень
мощный вычислительный инструмент, который, если вы
сбрасывать тонны данных на них, как это они
вероятно, научится распознавать кофе
машины, и если вы взломаете, вы знаете
контейнер и заглянуть внутрь, чтобы увидеть
что они делают, они в основном
найти уровни портала, чтобы
эти системы фактически признают сложную
объектов — распознавание прямых линий
и используя это для распознавания кривых линий
распознать текстуры для распознавания
части объекта и в конечном итоге признать
объекты, которые вас интересуют
который действительно потрясающий и очень
мощный теперь вы можете соблазниться на
этот момент подумать хорошо, это
большое это решаемая проблема что — нибудь
что я хочу, чтобы я мог просто получить достаточно данных
и применять его получается, хотя
что мы знаем с 90-х годов, что это
проблема, основанная на вычислении
обучать нейронные сети или машинные ученики в
в худшем случае я имею в виду много
проблемы решаются очень хорошо, но
другие вы знаете, что они собираются бороться
на это оказывается проблема, если бы вы могли
эффективно решить эту проблему
такая же система для разрыва криптографических кодов
как виды вещей, которые защищают
наши деньги в банках, так что мы
ожидая, по крайней мере, банкиров, которых я предполагаю
ожидают, что это сложно
проблема и вряд ли будет та, которую мы
может хорошо решить мои ученики, и у меня есть
выяснилось, что на самом деле
вы, как учитель, можете
проблемы с обучением на уровне портала, если
вы можете на самом деле обучить любую задачу
каким бы сложным он ни был
что ученик никогда не должен
слишком сильно работать на каждом из уровней, которые он
решаются простые комбинации
вещи, которые уже видели, что это работает
для контролируемого обучения это получается
также работает для усиления обучения
что проблема на самом деле
следуя пути к достижению цели:
выполнить последовательность команд в
мир — в этом конкретном случае
зарядное устройство к на кухню к моему
спальня, чтобы доставить кофе этой проблемой
также является неразрешимым для полного
мы просто даем
задача, которую вы просто скажете, пойти на это, это будет
взять навсегда, но мы можем
разбить его на более мелкие проблемы и
мы можем решить его таким образом, что это непросто
знать, как сломать его , но там
это сообщество ученых, которые думают
об этом аналитики поведения
это люди, которые думают о том, как
тренировать животных, как вы тренируете
курица, как вы тренируете собаку, как сделать
вы тренируете гиппопотама и что
они то, что они делают, они учат
люди, как сломать сложные задачи
на более мелкие кусочки и один из
проблемы, которые они
хорошо тренируй цыпленка, чтобы пройти
восьмерки, и получается, что это
на самом деле не так сложно, если вы нарушаете
проблема в правильном направлении, так что мой
коллеги и я читали об этом
и подумал, что это действительно удивительно, мы
должны полностью сделать это с роботом так
мы построили робота, который вы могли бы дать
положительной и отрицательной обратной связи, как
курица, и мы дали ей вещи, чтобы ходить
вокруг в восьмерке и обучил его
просто так, как аналитики поведения
скажут нам, и это сработало, мы получили
Робот , который мы могли бы бегать в
восьмерка это было действительно опрятно , это было
почти как если бы роботы следовали в
шаги цыплят, поэтому это понятие
кооперативный ИИ для меня — это очень
мощная идея , что это действительно наше самое лучшее
надеемся создать интеллектуальные системы и
Я думаю, что одна из причин, почему я так
оптимистично об этом как о пути вперед
заключается в том, что он признает важное
факт об интеллекте, который я считаю
недооценивается, и это
мы знаем, что
в основном о людях, которых мы не изобретаем
мы не решаем сложные проблемы SuperDuper
всегда самостоятельно , если нам нужно использовать
что-то сложное, как язык, мы
придумайте язык вместе, если нам нужно
использовать передовую математику, такую ​​как исчисление
мы изучаем это вместе даже
изобретатели исчисления
не изобретал это полностью самостоятельно
так и Ньютон, и Лейбниц
создал исчисление примерно в то же время
и примерно так же, но они были
оба были построены на обозначениях, которые были
доступных в то время, хотя
проблемы, которые, по мнению людей, были
интересны концепции, которые были
доступны, и они придумали
что — то очень похожи друг на друга в
факт Ньютон даже сказал, если я вижу так
гораздо больше, чем другие, потому что
Я стою на плечах гигантов
я получаю выгоду от работы
с другими людьми, поэтому мы действительно
умнее работать вместе в этом
но умность — не единственная вещь
мы заботимся о том, что мы строим AI
мы действительно хотим, чтобы они были
мы хотим, чтобы они сделали то, что нам нужно
их подход и этот совместный подход
к искусственному интеллекту, может быть,
проблематично в этом отношении
ставит бремя ответственности за нас как учителей
научить правильные вещи системы мы
не хочу, чтобы все наши роботы выросли
Я не знаю расистских ботов Twitter
Потому что это случается иногда, и поэтому вы
хочу избежать этого, поэтому нам действительно нужно
обратите внимание на то, что мы просим
роботы, чтобы мы могли их хорошо научить
но я думаю , что выгоды от этого являются
действительно важно в ближайшей перспективе
у нас будут системы, которые больше
персонализировали для этого проблемы, которые
мы на самом деле сталкиваемся в долгосрочной перспективе
будет делиться миром с
интеллектуальных агентов, которые получают
мы понимаем то, что мы
понять, что они разрушают мир
путь, который мы разрушаем в мире, будет
понять, что они делают, они будут
понять, что мы делаем, и я думаю
что очень важно , потому что в
каждый из нас имеет
важную роль играть мы не собираемся
сидеть в стороне, мы
собираюсь немного потрудиться
в эти системы, которые
сильно повлияет на нашу жизнь
и наши фьючерсы очень благодарны
вы
Please follow and like us:

Be First to Comment

Добавить комментарий