Роботы идут — готово ли общество? | Maarja Pild | TEDxLasnamäe

когда люди и слышать о тема роботов
тогда многие
а зачем мы говорим об этом уже здесь и
сейчас о каких-то регуляции их на уровне
и моральных юридических норм мы ведь не
видим ни на наших улицах не на домах наш
над домах таких умных роботов и
государственная регуляция ведь всегда
мешает инновации
даже те роботы которые ездят по улице
вместо нее они ведь еще не такие умные
моя цель в этой речи заставит вас
задуматься что есть все таки некоторые
вопросы на которые стоит подумать о со
сейчас потому что потом будет поздно
либо потому что эти решения примут
где-то в кулуарах
и пока общество еще не готово
не готова ни правовом неэтичным смысле 3
прихода роботов и машин ну начнем
немного издалека
может некоторые из вас слышали о
этическом таком эксперименты мыслителем
экспериментами называется она
проблема вагонетки что это значит едет
вагонетка и ее невозможно уже остановить
если она продолжит свой путь прямо тогда
она задавит насмерть 5 человек
они не успеют некуда скрыться но есть
ещё одна возможность
можно повернуть эту вагонетку на
запасной путь но как вы видите там тоже
один человек и он тоже не успеет со
спастись и так проблема вагонетки
составит нас весит ценник от
человеческую жизнь и спрашивать и решать
либо убивать питчить человек либо 1
особо если добавить какие-то детали в
этот кейс
например и ти5 это дети а этот один
80-летний ученый который очень близок к
тому чтобы найти лекарство от рака
пока такие вопросы когда в реальной
жизни возникают например тонут 5 детей и
можно пасти то спасти только одного то
это не ситуация на которой мы раньше
как-то могли подумать или рассчитаться
потому что такие ситуации невозможно
предвидеть
но с переходом роботов особо беспилотных
автомобилей это все меняется потому что
уже сейчас совершенно точно ясно что
автомобиль можно просто программировать
таким образом чтобы она делала
определенное решение
эти этот мыслительный эксперимент
ну уже и не такой мыслительный это
программированный например google
называет
алгоритмами смерти можно например
забронировать машину таким образом
что если на дороге ребенок а свернуть
никуда нельзя чтоб автомобиль предпочел
всегда ребенка
любому кто в машине либо в нее но тут
только не вопрос в том какое
или какое-то решение должно быть ну и
кто это решение должен принимать если
это не производитель тоже ли это быть
например владелец машины или
пользователь можно ли такое решение
менять например каждое утро исходя от
настроения или все-таки это решение
должно принимать государства наверняка у
нас нет однозначного ответа мы не знаем
какой это правильный ответ на это эти
вопросы но для того чтобы общество было
каталог приходу роботов важно что этот
вопрос вообще возник дальше рассмотрим
еще один аргумент который использует те
которые говорят что говорить про роботов
это слишком рано и трата времени это
что-то что должно остаться на страницах
художественной фантастики
этот аргумент связи с тем что это такое
сознание или самосознание или тоже с тем
что мы до сих пор не можем научным
языком описать что это такое сознание
это просто что то что мы чувствуем и что
мы ощущаем и знаем как человек что она у
нас есть когда обсуждают тему может ли
машина мыслить
ссылаются на 10 тюринга машина пройдет
тест когда может обмануть человека что
ип человек не может понять что и
общается с искусственным интеллектом но
как вы уже понимаете это лишь доказывает
то что машина может обмануть
имитировать человека но не то что машина
реально мой след и еще ученые до сих пор
не знают возможно ли когда-либо будет
создать машину с чувствами своим я и
сознанием и так отсюда вытекает
этот аргумент противников ура здорово
разговоров про роботов это в том что но
тогда ведь машина никогда не будет так
похожи на человека машина это просто
вещь зачем нам говорить про роботов но
реальности сознание не является
предпосылкой того чтобы мы уже это ушли
про роботов говорить опять начнем
немного издалека и
[аплодисменты]
и обсудим некоторые вопросы если жестока
со всей силой кинуть в стену ноутбук
тогда мы не будем как сочувствовать
этому разбитому устройству то может быть
мы подумаем все в порядке ли с этим
человеком кто это сделал но мы не будем
думать чувствовали этот ноутбук пол
потому что мы знаем это невозможно в
точки зрения
юристов
это лишь вещь и хозяй может его
уничтожить каким-либо образом в точки
зрения юристов тоже животное это почти
как вещи но даже самые пещерные юристы
понимают что животное это не обычная
вещь она чувствует боль и поэтому
государство приняло ряд законов чтобы
животных защищать и так если никогда не
будет машины которая чувствует боль
тогда наверное сильный надо как-то
дополнительно защищать мы подумаем
дальше потому что иногда мы защищаем и
так называемый общественный нерв и
действие запрещаем которым и напрямую
никому не вредят например мы не
разрешаем прогулки в обнаженном виде по
центру города
это является нарушением общественного
порядка
даже если это не вредит никому физически
спорно на принципе психически ну понятно
что мы не особо восторге когда мы гуляем
по городу а нам навстречу идут в голой
люди и так есть ли какие-то вопросы
связаны роботами
когда мы хотели писать учить какой-то
общественное благо или интерес или
общественный нерв я приведу вам два
примера
представьте себе робота он очень она
очень похожа на человека прямо так что
купил верзиле нельзя отличий то человека
как вы быть себя чувствовали
если хозяин мог сделать с ней что угодно
битье надругаться над ней уничтожать по
кусочку
снимайте это все на видео а потом
продавать например в интернете наверное
вот в такой ситуации я уже затронет
общественная нервно столько что надо
подумать на государственное
вмешательство или например когда у нас
есть робот
который может принести общества и
вероятно большую пользу например опыт
очень близок к тому чтобы иметь найти
лекарство от рака а его хозяин
завидует и хочет его уничтожить
а земли и тогда например этого робота
защищать так что наверное все таки есть
некоторые вопросы связаны с роботами
когда мы хотели появился ощущать и мы
как человечество не можем все допустить
журова ты меня связаны только какие-то
очень трудные вопросы и не решим ее
проблемы вестей возможности совершенно
нового вида и творчество например нового
вида
например если дать робота прочитать
когда-то в будущем все произведения 2
таль 100-го
чтобы робот после под потеплением от
прочитанного написал бы свое
произведение и может тоже такое что
когда мы это читаем мы не можем понять
что это не написал человек но конечно
пока у нас еще нет такого умного робота
кто мог бы написать что-то сопоставимая
с мировой классик литературы
но у нас уже есть примеры того как
как-то робот анализировать сценарии
фильма он пишет свой сценарий фильма
первого такого называют санс bank он был
на песен 2016 году и ну конечно он
развлекательный говорят что сценаристы
рюти еще не должны бояться конкуренции
он не очень хороший но его сняли вы
можете тоже посмотреть это на ютюбе вот
но если робот создала что-то позитивное
то это одно и конечно сценарий тоже
например много вопросы кто конкретно
является автором и кому-то
оскар когда этот сценарий выиграет но
тоже более серьезные проблемы и вопросы
это связаны ответственностью
когда робот со стола что то негативные и
проблемы птичное принципе
например мы защищаем часть деталь 100
инст го человека и запрещаем призывы к
призывы насилию прожигающие рознь речь и
так далее а что если это делает робот у
нас один пример уже есть это собеседник
microsoft по имени тень он пастилки ты в
твиттере и когда упустил этот вид это же
общался с пользователей twitter и
развивался но пользователи twitter не
были вежливыми когда они общались с т и
и microsoft
был вынужден выключить собеседника через
16 часов потому что робот начал постит
российский оскорбительные комментарии с
одной стороны понятно что у microsoft и
не было никакого желания кого-то
оскорблять и наверное когда вы осудили
за такое действие это не был не было бы
справедливо если кто осуждает казакова
кого-то когда он пусть уж что-то по
злому умыслу
но с другой стороны понятно что вряд ли
общество смириться что мы не будем
наказывать такого создателя совсем тут
можно вы привести параллель животными и
хозяина животного хозяин ответствует
поступке своего животного с одной
стороны мы не приравниваем ситуацию
когда собака кого-то покусала ситуации
когда хозяин кого-то паку сил но понятно
что хозяин ответствует за животного
когда она причинила какой-то вред и так
этих вопросах довольно много и понятно
что они касаются каждого из нас и
человечество в целом это не вопросы на
которые мы можем искать ответы когда-то
потом мы не можем допустить ситуацию
когда ответы на эти вопросы будут искать
и чили
либо еще кожи юристы одиночку и это
потому что наверняка тогда эти решения
примут например технологические гиганты
или другие группы по интересам и эти
решения будут только такие которые
подходят им она
остальным частям общество просто
остается смириться спасибо
[аплодисменты] [музыка]