дамы и джентльмены за нас в
в середине ИА-победителя это не
в первый раз был ИИ
победивший на этот счет сохраняемости мы находимся
фактически в четвертую эпоху бума для ИИ
кто первый собираемся еще как
50-ые годы и побеждающая сторона не обязательно являются
плохая вещь время от времени идея
приходит и начинает получать много
и если идея в целом
хорошая идея, тогда это хорошая вещь
однако хорошая часть идеи
обычно строго изучается только
небольшое меньшинство убедитесь, что вы являетесь частью
это меньшинство в качестве моей лекции
сказать , если вы собираетесь прыгать на
побеждающий прыжок на бит, который стоит
писать, поэтому позвольте мне объяснить вам, что я
думаю, самая интересная часть
текущий бум АИ и для того, чтобы сделать
что мне нужно сделать шаг назад и
начните с чего-то немного другого
сколько из вас в аудитории
считайте себя программистами, давайте посмотрим
шоу рук вы все тоже
программистов, потому что программирование
ничего, кроме указания поведения, когда вы
нажмите кнопку, чтобы отправить электронное письмо или нажмите
на значке, чтобы открыть приложение, которое вы
делая небольшую часть программирования, вы
говоря компьютер
Я намерен отправить вам это электронное письмо или
телефон, который я намерен открыть для вас
приложения, и вы можете не думать о
это как программирование, но оно и на самом деле
С этой точки зрения всей истории
дизайн компьютерного интерфейса можно подумать
как все больше и больше людей
программы, не понимая, что это делается
когда мы пошли от кормления перфокарт в
для компьютеров в командной строке
интерфейсов мы сократили время
потребовалось, чтобы получить ответ от
компьютера от дней до нескольких секунд, и это
означало, что вам не нужно было
код в первый раз, когда было нормально
совершать ошибки, вы можете просто попробовать еще раз
и когда мы вышли из командной строки
интерфейсы к графическим пользовательским интерфейсам
у нас были все эти богатые визуальные аналоги
как кнопки и значки и меню и
каждый шаг по пути все больше и больше
люди могли использовать компьютеры для
их работы
достижение с помощью кликов
и краны, которые имели десятилетия назад
потребовали от них написать несколько строк
код, который возвращает нас к ИИ
взаимодействие с искусственным
интеллект подобен программированию, потому что
это определение поведения, когда вы
попросите помощника на телефоне выбрать
вам некоторая информация, которую вы указываете
как вы хотите, чтобы этот агент вел себя
теперь вы можете получить интеллектуальные термостаты, которые
узнайте, как вам нравится температура
о том, как вы устанавливаете его в первые несколько дней
использования и затем научиться устанавливать
температура сама по себе больше
тонким примером является продукт
рекомендации по интернет-магазину, такие как
как Amazon, и когда вы просматриваете и делаете
покупки в таком магазине вы
обучая систему вашим предпочтениям и
тем самым указывая на поведение
рекомендовать систему или думать о социальных
медиа на платформах социальных сетей
каждый клик на понравившиеся ваши сообщения
разделяет даже количество времени пребывания
на почте записывается и используется для
персонализировать свой опыт , что
платформе, ваши записанные действия
программы и таким образом
все больше и больше нашего опыта
Интернет, а также окружающий мир
программируется нами неявно или
прямо сейчас заявили, что ИИ
как программирование, и если бы это было точно
как программирование, тогда не было бы
любая проблема для решения, мы все могли бы просто
домой, потому что мы помогаем
профессиональных разработчиков программного обеспечения
программа на протяжении десятилетий теперь просто так
случается, что вы знаете, что все
программирование своей среды с использованием ИИ
мы просто используем инструменты, которые мы используем для
профессиональных разработчиков программного обеспечения и
отдайте их обычным людям и имейте их
используйте это неправильно, есть два ключа
пути, в которых ИИ отличается от
Традиционное программирование во — первых,
что цель, когда вы взаимодействуете
с системой ИИ часто неизвестно или
неточно указанный
давайте подумаем о двух примерах, которые
мы уже видели, когда вы устанавливаете будильник
на вашем будильнике цель проста
вы хотите, чтобы сигнал тревоги
время так что это делает его очень легко
при возникновении ошибки или
ошибка в вашем
если будильник звонит, когда вы хотите
я не хотел, чтобы он звонил, или если
сигнал не звонит, когда вы действительно хотите
это, чтобы позвонить, теперь есть ошибка
это поведение интернет-магазинов
рекомендации или, возможно,
которые, похоже, следуют за вами
повсюду в Интернете вы
могут получить те, которые кажутся более актуальными
или те, которые кажутся менее актуальными, но это
трудно сказать, является ли поведение
правильно или неправильно, я имею в виду
Конечной целью, конечно, является получение
более высокие рекомендации, но это
нечеткой и постоянно меняющейся мишенью
нет там никакой реальной концепции
является ли поведение ли
программа ведет себя правильно в любом
абсолютный смысл слова и это
первая проблема Я надеюсь, что это ясно
глубже, чем мы можем решить
технологии, поскольку мы хотим
применять ИИ к этим нечетким проблемам
как человеческие предпочтения, решения
неизбежно должны быть ориентированы на человека, поэтому
хорошо продуманная система рекомендаций
помочь как человеку, так и искусственному интеллекту развиваться
для чего хорошая рекомендация , и
хорошая рекомендательная система поможет
человек и ИИ соглашаются с идеей
что нет такой вещи, как
отличная рекомендация второй путь в
который ИИ отходит от традиционных
программирование о том, как программа
хранится
традиционно программы хранятся как
строк кода или наборов правил или как
комбинации простых настроек думают
снова о вашем будильнике, хранящемся в
его памяти, будь то цифровой или аналоговый
две части информации первого является
включен или выключен будильник, и
второй — это время, в течение которого установлен будильник
и они объединяются, чтобы сделать следующее
очень простая программа, если будильник включен
и текущее время совпадает с сохраненным
время будильника, и эта программа
запускать каждую минуту, и если что-то идет
неправильно, и он не работает, вы всегда можете
проверить эти две части информации
был установлен будильник, какое время он был установлен
для того, чтобы разобраться, что пошло не так
в сравнении, напротив, скорее AI
программы
хранятся как огромное количество чисел
которые представляют собой статистические параметры
которые по отдельности не имеют никакого значения
но коллективно создавать этот богатый
поведение , которое мы видим в системах искусственного интеллекта сегодня
так просто осматривая Настройки
программа не говорит нам, что это не
помогите нам понять программу и
вторая проблема действительно там, где нам нужно
чтобы сделать некоторую тягу вы можете иметь
слышал об этой проблеме многими именами
знать проблему разборчивости
проблема прозрачности черного ящика
проблема в ИИ и когда люди говорят о
это вы часто слышите такие вещи, как мы
должен обеспечить, чтобы ИИ дополнял человека
или мы должны обеспечить, чтобы ИИ
расширяет и усиливает и усиливает
человеческих способностей или мы должны обеспечить там
не являются скрытыми предубеждениями в нашем ИИ
системы, в которых большая часть этого обсуждения
можно просто проиллюстрировать тот факт, что
просто проверка личности
настройки, составляющие программу AI
не рассказывайте нам о том, что это
программа делает и как она это делает тогда
существует много потенциальных решений для
эта проблема одна школа мысли
что мы должны просто уменьшить
сложность программ ИИ путем принуждения
у них меньше таких параметров
и это корень структурных
простота, которая имеет недостаток, потому что
эти более простые программы находят это
сложнее воспроизвести этот богатый комплекс
поведение, которое мы хотим, чтобы наши системы ИИ
узнайте, например, о навигации по драйверу
беспилотный автомобиль через все виды
разные дорожные участки этих простых
программы просто не выполнять, а в
в моем исследовании я изучил альтернативу
что вместо того , чтобы смотреть на него как на
структурной проблемой мы должны быть
рассматривая его как проект взаимодействия
проблема, то есть глядя на
индивидуальные номера , составляющие
искусственный интеллект ошибочен
уровень абстракции, при котором
взаимодействовать с ними, когда мы шли от
интерфейсы командной строки для графического
пользовательских интерфейсов мы использовали метафоры и
абстракции, чтобы помочь нам понять
эти сложные системы, когда вы перемещаете
на вашем компьютере сегодня вы не
нужно ввести некоторую неясную команду
участвует
есть ли файл в настоящее время, и мы хотели
чтобы вы просто перетащили его значок
это не было случайным это взаимодействие
является трудным результатом нескольких лет
тщательное исследование конструкции
эти системы, и я утверждаю, что мы
должно быть применяя тот же дизайн
принципы исследования для проектирования ИИ
системы, чтобы сделать их более доступными
современные системы ИИ на самом деле
покровительствовать пользователю думать о
помощник по телефону или
рекомендовать системы, когда эти системы
примите решение, если вы не скажете вам
как они пришли к этому решению на
какие данные решение было основано , как
уверен, что они находятся в этом решении и
так что если вы как-то не удовлетворены
ответ, то есть вы нашли
ошибки есть очень небольшая поддержка для
вы должны решить, что вам делать дальше
и в конечном итоге любую информацию
информация, за которой вы находитесь, — это любая
информация, которая поможет вам получить
что вы хотите от системы до
улучшить свое поведение, чтобы лучше определить
его поведение — любая информация
это поможет вам запрограммировать
система, которую мы знаем через исследования
существуют конкретные виды информации
которые помогают неконкурентным конечным пользователям этих
системы взаимодействуют с пониманием и
информацию об AI программы, например, почему или
почему нет
эта система принимает определенное решение
какой вклад делает система для
его решения, какие решения
он действительно способен на то, что
система делает в определенном сценарии, как
уверенность в системе его решения
и какие элементы управления я использую как пользователь
повлиять на процесс принятия решений
системы и помочь ей сделать лучше и
в моих исследованиях я предложил, чтобы это
информация может быть сгенерирована с использованием
мета-интеллекты, то есть
меньшие периферийные интеллекты, которые
посмотрите на основную программу ИИ и отчет
что они узнали об этом в
термины уровня и эти термины высокого уровня
могут быть представлены в виде диаграмм
иллюстрирующий доверие
системы или, возможно, как изображения в
растягивая то, что видит система, когда оно
смотрит на изображение или даже на
языка, но дизайн этих
высший уровень
а также какие средства контроля или разрешения
пользователь должен действовать на них , действительно
ключ к дизайну этих ИИ
сейчас у меня достаточно времени, чтобы сказать
вы расскажете об одной вещи, которую мы имеем
узнал о дизайне систем ИИ
через исследования я был вовлечен в
проекта в Microsoft, где мы были
пытаясь построить систему искусственного интеллекта , который выглядит
на видео пациентов с множественными
склероз, выполняющий стандартизованный
клинических движений и оценить
тяжесть их болезни в настоящее время несколько
склероз — болезнь моторных нейронов и
тем хуже становится , тем труднее для
пациенты для выполнения стандартных
движения, такие как палец в нос
движение из-за таких вещей, как тремор
и поэтому система должна была выглядеть
на видео пациентов и
оценка оценивает тяжесть болезни
оценка по шкале от 0 до 4 для каждого из
их с нулем, полностью нормальным
и для того, чтобы быть настолько ослабленным, вы не могли
завершить движение , и вы можете
представьте себе , как полезную систему , как это
потому что это позволит
пациенты должны быть оценены гораздо больше
регулярно
последствия для принятия решений о лечении
позволяет им сделать намного лучше
решения и системы лечения
это учится, сначала беря кучу
примеры, которые уже были помечены
экспертами, поэтому нам нужно было создать
набор данных обучения для системы, где
мы уже получили неврологов
назовите несколько видеороликов соответствующими
а через тяжесть заболеваний и
мы пошли к неврологу с нашей
видео и проблема в том, что это такой
что даже у неврологов есть
сложно определить, какие рейтинги
должно быть так, что мы дадим невропатогам
то же видео, и они согласятся только
с баллами друг друга около 60%
время
более того, мы бы дали те же неврологи
одно и то же видео на несколько часов
они даже не согласны с их собственными
предыдущие рейтинги, поэтому мы пробовали много вещей
для улучшения этой ситуации мы стараемся работать
с неврологами создать новое
рубрики для оценки этих видеороликов
мы попытались выбрать видео с золотым стандартом
что было бы образцом каждого из
степени тяжести, так что
что
неврологи смогли бы обратиться к
что-то не улучшает согласованность
наше решение потребовало от нас
пересмотреть наш подход ко всему этому
проблема заключалась в том, что
люди в корне лучше
сравнивая вещи, чем они есть
присваивая абсолютные оценки
вместо того, чтобы у каждого невролога
все видео по отдельности мы спросили мы дали
их небольшие наборы видеороликов и
закажите эти видео в соответствии с
тяжесть болезни, а затем мы
смогли взять эти результирующие
упорядочивает и извлекает нуль до четырех
шкалы от них и эти
итоговые оценки были намного больше
в соответствии с чем-либо, что мы видели
прежде чем выйдет за рамки современного
значительно выше клинических стандартов на золото.
был настоящим прорывом для ИИ как
как и неврология, теперь у вас может быть
заметил, что этот пример даже о
сама система ИИ связана с данными
мы кормим в нее , но я надеюсь , что это просто
показывает, что существует целая
история создания этих систем
что происходит до и после
системы даже входят в картину, и наши
подход к проектированию этих систем
должен быть целостным, я имею в виду думать о
как часто ваши люди просят оценить
все время, когда вас просят оценить
фильмы или продукты Netflix на Amazon
вам понравятся сообщения в социальных сетях, как
оценивать песни в потоковой передаче музыки
услуги и люди не занимаются
абсолюты
мы имеем дело с родственниками, и если их попросят
мы можем производить абсолютные оценки, но эти
оценки часто являются непоследовательными или
бессмысленно, как бы все эти
системы, если бы вместо этого нас попросили
сравнить песни для сравнения видео с
сравнить фильмы для сравнения разных сообщений
Подводя итог, мы узнали, что
программирование определяет поведение, которое мы имеем
узнал, что ИИ подобен программированию и
где он отходит от традиционных
программирование — это где дизайн взаимодействия
может вмешаться, чтобы заполнить пробелы, чтобы следующий
время, когда вы читаете статью или слышите разговор
о том, как ИИ повсюду, и мы не можем
понимать это
вы можете успокоиться в том, что
основная проблема поиска правильного
метафоры и правильный уровень
абстракция не является новой для компьютера
наука, с которой мы это делали раньше
интерфейсов командной строки и с
графических пользовательских интерфейсов и с
сенсорный экран и жесты интерфейса и
мы можем сделать это снова, теперь не получаем меня
неправильно это очень сложная проблема дизайна
но я уверен, что это можно решить
через принципиальное применение
наш дизайн нашего понимания
дизайна и человеческой психологии и в порядке
для этого нам нужно больше
междисциплинарных исследователей существует
люди, которые могут
аспекты машинного обучения с
социальных аспектов исследования пользователей и
ремесленные аспекты дизайна взаимодействия и
Я не просто хочу, чтобы у нас было больше
социологическая критика ИИ у нас есть
много тех , кто уже на самом деле эти
критика в аяте настолько оторваны от
технические реалии ИИ, которые
они часто оказываются на
легкий и непрактичный и обратный
часто также верно, когда ИИ
исследователи отвечают на человека Centric
критический результат часто встречается
редукционистский или универсалистский, предполагающий
что некоторые сложные аспекты человеческого
опыт можно получить, добавив
другой параметр в систему теперь
есть исключения, но центр истинный
введенная дисциплинарная экспертиза
трудно найти, так вот мое желание, я хочу
больше исследователей в области социальных наук
настоящую попытку научиться строить и
проектирование систем ИИ Я хочу больше ИИ
исследователей предпринять реальные усилия для
изучать теории и методы социальных
науки и дизайна, и вместе я
уверенный, что мы построим больше всего
доступный и мощный компьютер
интерфейсы еще спасибо
[Аплодисменты]
в середине ИА-победителя это не
в первый раз был ИИ
победивший на этот счет сохраняемости мы находимся
фактически в четвертую эпоху бума для ИИ
кто первый собираемся еще как
50-ые годы и побеждающая сторона не обязательно являются
плохая вещь время от времени идея
приходит и начинает получать много
и если идея в целом
хорошая идея, тогда это хорошая вещь
однако хорошая часть идеи
обычно строго изучается только
небольшое меньшинство убедитесь, что вы являетесь частью
это меньшинство в качестве моей лекции
сказать , если вы собираетесь прыгать на
побеждающий прыжок на бит, который стоит
писать, поэтому позвольте мне объяснить вам, что я
думаю, самая интересная часть
текущий бум АИ и для того, чтобы сделать
что мне нужно сделать шаг назад и
начните с чего-то немного другого
сколько из вас в аудитории
считайте себя программистами, давайте посмотрим
шоу рук вы все тоже
программистов, потому что программирование
ничего, кроме указания поведения, когда вы
нажмите кнопку, чтобы отправить электронное письмо или нажмите
на значке, чтобы открыть приложение, которое вы
делая небольшую часть программирования, вы
говоря компьютер
Я намерен отправить вам это электронное письмо или
телефон, который я намерен открыть для вас
приложения, и вы можете не думать о
это как программирование, но оно и на самом деле
С этой точки зрения всей истории
дизайн компьютерного интерфейса можно подумать
как все больше и больше людей
программы, не понимая, что это делается
когда мы пошли от кормления перфокарт в
для компьютеров в командной строке
интерфейсов мы сократили время
потребовалось, чтобы получить ответ от
компьютера от дней до нескольких секунд, и это
означало, что вам не нужно было
код в первый раз, когда было нормально
совершать ошибки, вы можете просто попробовать еще раз
и когда мы вышли из командной строки
интерфейсы к графическим пользовательским интерфейсам
у нас были все эти богатые визуальные аналоги
как кнопки и значки и меню и
каждый шаг по пути все больше и больше
люди могли использовать компьютеры для
их работы
достижение с помощью кликов
и краны, которые имели десятилетия назад
потребовали от них написать несколько строк
код, который возвращает нас к ИИ
взаимодействие с искусственным
интеллект подобен программированию, потому что
это определение поведения, когда вы
попросите помощника на телефоне выбрать
вам некоторая информация, которую вы указываете
как вы хотите, чтобы этот агент вел себя
теперь вы можете получить интеллектуальные термостаты, которые
узнайте, как вам нравится температура
о том, как вы устанавливаете его в первые несколько дней
использования и затем научиться устанавливать
температура сама по себе больше
тонким примером является продукт
рекомендации по интернет-магазину, такие как
как Amazon, и когда вы просматриваете и делаете
покупки в таком магазине вы
обучая систему вашим предпочтениям и
тем самым указывая на поведение
рекомендовать систему или думать о социальных
медиа на платформах социальных сетей
каждый клик на понравившиеся ваши сообщения
разделяет даже количество времени пребывания
на почте записывается и используется для
персонализировать свой опыт , что
платформе, ваши записанные действия
программы и таким образом
все больше и больше нашего опыта
Интернет, а также окружающий мир
программируется нами неявно или
прямо сейчас заявили, что ИИ
как программирование, и если бы это было точно
как программирование, тогда не было бы
любая проблема для решения, мы все могли бы просто
домой, потому что мы помогаем
профессиональных разработчиков программного обеспечения
программа на протяжении десятилетий теперь просто так
случается, что вы знаете, что все
программирование своей среды с использованием ИИ
мы просто используем инструменты, которые мы используем для
профессиональных разработчиков программного обеспечения и
отдайте их обычным людям и имейте их
используйте это неправильно, есть два ключа
пути, в которых ИИ отличается от
Традиционное программирование во — первых,
что цель, когда вы взаимодействуете
с системой ИИ часто неизвестно или
неточно указанный
давайте подумаем о двух примерах, которые
мы уже видели, когда вы устанавливаете будильник
на вашем будильнике цель проста
вы хотите, чтобы сигнал тревоги
время так что это делает его очень легко
при возникновении ошибки или
ошибка в вашем
если будильник звонит, когда вы хотите
я не хотел, чтобы он звонил, или если
сигнал не звонит, когда вы действительно хотите
это, чтобы позвонить, теперь есть ошибка
это поведение интернет-магазинов
рекомендации или, возможно,
которые, похоже, следуют за вами
повсюду в Интернете вы
могут получить те, которые кажутся более актуальными
или те, которые кажутся менее актуальными, но это
трудно сказать, является ли поведение
правильно или неправильно, я имею в виду
Конечной целью, конечно, является получение
более высокие рекомендации, но это
нечеткой и постоянно меняющейся мишенью
нет там никакой реальной концепции
является ли поведение ли
программа ведет себя правильно в любом
абсолютный смысл слова и это
первая проблема Я надеюсь, что это ясно
глубже, чем мы можем решить
технологии, поскольку мы хотим
применять ИИ к этим нечетким проблемам
как человеческие предпочтения, решения
неизбежно должны быть ориентированы на человека, поэтому
хорошо продуманная система рекомендаций
помочь как человеку, так и искусственному интеллекту развиваться
для чего хорошая рекомендация , и
хорошая рекомендательная система поможет
человек и ИИ соглашаются с идеей
что нет такой вещи, как
отличная рекомендация второй путь в
который ИИ отходит от традиционных
программирование о том, как программа
хранится
традиционно программы хранятся как
строк кода или наборов правил или как
комбинации простых настроек думают
снова о вашем будильнике, хранящемся в
его памяти, будь то цифровой или аналоговый
две части информации первого является
включен или выключен будильник, и
второй — это время, в течение которого установлен будильник
и они объединяются, чтобы сделать следующее
очень простая программа, если будильник включен
и текущее время совпадает с сохраненным
время будильника, и эта программа
запускать каждую минуту, и если что-то идет
неправильно, и он не работает, вы всегда можете
проверить эти две части информации
был установлен будильник, какое время он был установлен
для того, чтобы разобраться, что пошло не так
в сравнении, напротив, скорее AI
программы
хранятся как огромное количество чисел
которые представляют собой статистические параметры
которые по отдельности не имеют никакого значения
но коллективно создавать этот богатый
поведение , которое мы видим в системах искусственного интеллекта сегодня
так просто осматривая Настройки
программа не говорит нам, что это не
помогите нам понять программу и
вторая проблема действительно там, где нам нужно
чтобы сделать некоторую тягу вы можете иметь
слышал об этой проблеме многими именами
знать проблему разборчивости
проблема прозрачности черного ящика
проблема в ИИ и когда люди говорят о
это вы часто слышите такие вещи, как мы
должен обеспечить, чтобы ИИ дополнял человека
или мы должны обеспечить, чтобы ИИ
расширяет и усиливает и усиливает
человеческих способностей или мы должны обеспечить там
не являются скрытыми предубеждениями в нашем ИИ
системы, в которых большая часть этого обсуждения
можно просто проиллюстрировать тот факт, что
просто проверка личности
настройки, составляющие программу AI
не рассказывайте нам о том, что это
программа делает и как она это делает тогда
существует много потенциальных решений для
эта проблема одна школа мысли
что мы должны просто уменьшить
сложность программ ИИ путем принуждения
у них меньше таких параметров
и это корень структурных
простота, которая имеет недостаток, потому что
эти более простые программы находят это
сложнее воспроизвести этот богатый комплекс
поведение, которое мы хотим, чтобы наши системы ИИ
узнайте, например, о навигации по драйверу
беспилотный автомобиль через все виды
разные дорожные участки этих простых
программы просто не выполнять, а в
в моем исследовании я изучил альтернативу
что вместо того , чтобы смотреть на него как на
структурной проблемой мы должны быть
рассматривая его как проект взаимодействия
проблема, то есть глядя на
индивидуальные номера , составляющие
искусственный интеллект ошибочен
уровень абстракции, при котором
взаимодействовать с ними, когда мы шли от
интерфейсы командной строки для графического
пользовательских интерфейсов мы использовали метафоры и
абстракции, чтобы помочь нам понять
эти сложные системы, когда вы перемещаете
на вашем компьютере сегодня вы не
нужно ввести некоторую неясную команду
участвует
есть ли файл в настоящее время, и мы хотели
чтобы вы просто перетащили его значок
это не было случайным это взаимодействие
является трудным результатом нескольких лет
тщательное исследование конструкции
эти системы, и я утверждаю, что мы
должно быть применяя тот же дизайн
принципы исследования для проектирования ИИ
системы, чтобы сделать их более доступными
современные системы ИИ на самом деле
покровительствовать пользователю думать о
помощник по телефону или
рекомендовать системы, когда эти системы
примите решение, если вы не скажете вам
как они пришли к этому решению на
какие данные решение было основано , как
уверен, что они находятся в этом решении и
так что если вы как-то не удовлетворены
ответ, то есть вы нашли
ошибки есть очень небольшая поддержка для
вы должны решить, что вам делать дальше
и в конечном итоге любую информацию
информация, за которой вы находитесь, — это любая
информация, которая поможет вам получить
что вы хотите от системы до
улучшить свое поведение, чтобы лучше определить
его поведение — любая информация
это поможет вам запрограммировать
система, которую мы знаем через исследования
существуют конкретные виды информации
которые помогают неконкурентным конечным пользователям этих
системы взаимодействуют с пониманием и
информацию об AI программы, например, почему или
почему нет
эта система принимает определенное решение
какой вклад делает система для
его решения, какие решения
он действительно способен на то, что
система делает в определенном сценарии, как
уверенность в системе его решения
и какие элементы управления я использую как пользователь
повлиять на процесс принятия решений
системы и помочь ей сделать лучше и
в моих исследованиях я предложил, чтобы это
информация может быть сгенерирована с использованием
мета-интеллекты, то есть
меньшие периферийные интеллекты, которые
посмотрите на основную программу ИИ и отчет
что они узнали об этом в
термины уровня и эти термины высокого уровня
могут быть представлены в виде диаграмм
иллюстрирующий доверие
системы или, возможно, как изображения в
растягивая то, что видит система, когда оно
смотрит на изображение или даже на
языка, но дизайн этих
высший уровень
а также какие средства контроля или разрешения
пользователь должен действовать на них , действительно
ключ к дизайну этих ИИ
сейчас у меня достаточно времени, чтобы сказать
вы расскажете об одной вещи, которую мы имеем
узнал о дизайне систем ИИ
через исследования я был вовлечен в
проекта в Microsoft, где мы были
пытаясь построить систему искусственного интеллекта , который выглядит
на видео пациентов с множественными
склероз, выполняющий стандартизованный
клинических движений и оценить
тяжесть их болезни в настоящее время несколько
склероз — болезнь моторных нейронов и
тем хуже становится , тем труднее для
пациенты для выполнения стандартных
движения, такие как палец в нос
движение из-за таких вещей, как тремор
и поэтому система должна была выглядеть
на видео пациентов и
оценка оценивает тяжесть болезни
оценка по шкале от 0 до 4 для каждого из
их с нулем, полностью нормальным
и для того, чтобы быть настолько ослабленным, вы не могли
завершить движение , и вы можете
представьте себе , как полезную систему , как это
потому что это позволит
пациенты должны быть оценены гораздо больше
регулярно
последствия для принятия решений о лечении
позволяет им сделать намного лучше
решения и системы лечения
это учится, сначала беря кучу
примеры, которые уже были помечены
экспертами, поэтому нам нужно было создать
набор данных обучения для системы, где
мы уже получили неврологов
назовите несколько видеороликов соответствующими
а через тяжесть заболеваний и
мы пошли к неврологу с нашей
видео и проблема в том, что это такой
что даже у неврологов есть
сложно определить, какие рейтинги
должно быть так, что мы дадим невропатогам
то же видео, и они согласятся только
с баллами друг друга около 60%
время
более того, мы бы дали те же неврологи
одно и то же видео на несколько часов
они даже не согласны с их собственными
предыдущие рейтинги, поэтому мы пробовали много вещей
для улучшения этой ситуации мы стараемся работать
с неврологами создать новое
рубрики для оценки этих видеороликов
мы попытались выбрать видео с золотым стандартом
что было бы образцом каждого из
степени тяжести, так что
что
неврологи смогли бы обратиться к
что-то не улучшает согласованность
наше решение потребовало от нас
пересмотреть наш подход ко всему этому
проблема заключалась в том, что
люди в корне лучше
сравнивая вещи, чем они есть
присваивая абсолютные оценки
вместо того, чтобы у каждого невролога
все видео по отдельности мы спросили мы дали
их небольшие наборы видеороликов и
закажите эти видео в соответствии с
тяжесть болезни, а затем мы
смогли взять эти результирующие
упорядочивает и извлекает нуль до четырех
шкалы от них и эти
итоговые оценки были намного больше
в соответствии с чем-либо, что мы видели
прежде чем выйдет за рамки современного
значительно выше клинических стандартов на золото.
был настоящим прорывом для ИИ как
как и неврология, теперь у вас может быть
заметил, что этот пример даже о
сама система ИИ связана с данными
мы кормим в нее , но я надеюсь , что это просто
показывает, что существует целая
история создания этих систем
что происходит до и после
системы даже входят в картину, и наши
подход к проектированию этих систем
должен быть целостным, я имею в виду думать о
как часто ваши люди просят оценить
все время, когда вас просят оценить
фильмы или продукты Netflix на Amazon
вам понравятся сообщения в социальных сетях, как
оценивать песни в потоковой передаче музыки
услуги и люди не занимаются
абсолюты
мы имеем дело с родственниками, и если их попросят
мы можем производить абсолютные оценки, но эти
оценки часто являются непоследовательными или
бессмысленно, как бы все эти
системы, если бы вместо этого нас попросили
сравнить песни для сравнения видео с
сравнить фильмы для сравнения разных сообщений
Подводя итог, мы узнали, что
программирование определяет поведение, которое мы имеем
узнал, что ИИ подобен программированию и
где он отходит от традиционных
программирование — это где дизайн взаимодействия
может вмешаться, чтобы заполнить пробелы, чтобы следующий
время, когда вы читаете статью или слышите разговор
о том, как ИИ повсюду, и мы не можем
понимать это
вы можете успокоиться в том, что
основная проблема поиска правильного
метафоры и правильный уровень
абстракция не является новой для компьютера
наука, с которой мы это делали раньше
интерфейсов командной строки и с
графических пользовательских интерфейсов и с
сенсорный экран и жесты интерфейса и
мы можем сделать это снова, теперь не получаем меня
неправильно это очень сложная проблема дизайна
но я уверен, что это можно решить
через принципиальное применение
наш дизайн нашего понимания
дизайна и человеческой психологии и в порядке
для этого нам нужно больше
междисциплинарных исследователей существует
люди, которые могут
аспекты машинного обучения с
социальных аспектов исследования пользователей и
ремесленные аспекты дизайна взаимодействия и
Я не просто хочу, чтобы у нас было больше
социологическая критика ИИ у нас есть
много тех , кто уже на самом деле эти
критика в аяте настолько оторваны от
технические реалии ИИ, которые
они часто оказываются на
легкий и непрактичный и обратный
часто также верно, когда ИИ
исследователи отвечают на человека Centric
критический результат часто встречается
редукционистский или универсалистский, предполагающий
что некоторые сложные аспекты человеческого
опыт можно получить, добавив
другой параметр в систему теперь
есть исключения, но центр истинный
введенная дисциплинарная экспертиза
трудно найти, так вот мое желание, я хочу
больше исследователей в области социальных наук
настоящую попытку научиться строить и
проектирование систем ИИ Я хочу больше ИИ
исследователей предпринять реальные усилия для
изучать теории и методы социальных
науки и дизайна, и вместе я
уверенный, что мы построим больше всего
доступный и мощный компьютер
интерфейсы еще спасибо
[Аплодисменты]
Please follow and like us:
Be First to Comment