Ученые предложили выбрать, кого должен убить беспилотный автомобиль

Эксперты хотят понять, как научить самоуправляемые автомобили принимать правильные решения с точки зрения морали.

Представьте, что у вашего автомобиля отказали тормоза. И перед вами встаёт выбор: сбить переходящих дорогу пожилых людей или свернуть в сторону, задавив женщину с коляской. А что в такой ситуации должен сделать беспилотный автомобиль, задались вопросом в Массачусетском технологическом институте США. Ученые решили выяснить, как беспилотные автомобили должны решать вопрос о жизни и смерти, не идя в разрез с общественной моралью.

Для того, чтобы понять, как поступили бы люди в той или иной критической ситуации, сотрудники института разработали специальную игру «Moral Machine».
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.

Всего в тесте представлено 13 ситуаций, в каждой из которых необходимо решить кого- пешеходов или пассажиров- оставить в живых. Авторы проекта намерены через ответы реальных пользователей понять, какая моральная оценка общества на то или иное действие. Это понимание, считают ученые, в будущем позволят смоделировать возможное поведение компьютера, управляющего беспилотником.

Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
Кроме того, в тесте предлагается выбрать между жизнью человека и животного или жизнью водителя и пешехода.

На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.

Источник:

#hi-tech #Авто #беспилотные авто #игры #опросы #ученые

Fishki в Телеграм

Посты на ту же тему

Подборка автомобильных приколов

Сотрудники «Спецсвязи» грозились застрелить водителя из-за того, что он их "подрезал"

Ремонт дорог по–ярославски

294 комментария

Правила

!!! Оскорбления в комментариях автора поста или собеседника. Комментарий скрывается из ленты, автору выписывается бан на неделю. Допускаются более свободные споры в ленте с политикой, но в доступных, не нарушающих УК РФ, пределах.

! Мат на картинке/в комментарии. Ваш комментарий будет скрыт. При злоупотреблении возможен бан.

! Флуд - дублирующиеся комментарии от одного и того же пользователя в разных постах, систематические ложные вызовы модераторов с помощью функции @moderator, необоснованные обращения в техническую поддержку сайта, комментарии не несущие смысловой нагрузки и состоящие из хаотичного набора букв. Санкции - предупреждение с дальнейшим баном при рецидиве.

! Публикация рекламных постов. Несогласованное размещение рекламного материала, влечет незамедлительную приостановку действий учетной записи пользователя.

! Публикация материала, запрещенного на территории РФ и преследуемого УК РФ. Незамедлительная приостановка действия учетной записи пользователя.

! Мультиаккаунты. Использование нескольких активных аккаунтов, принадлежащих одному пользователю (исключение - дополнительный аккаунт для обращения в тех. поддержку при блокировке основного аккаунта) запрещено. За нарушение предусмотрено отключение основного аккаунта с возможной дальнейшей блокировкой любого аккаунта от данного пользователя.

Правила

! Мат на картинке/в комментарии. Ваш комментарий будет скрыт. При злоупотреблении возможен бан.

Evgeny K.

8 лет назад

Почему бы не заставить машину остановиться в тот момент когда стало известно о поломке?
Раз робот автопилот несет ответственность за жизнь пассажиров, то он же должен следить за критическими узлами и механизмами автомобиля, все критические системы отвечающие за жизнь пассажиров и пешеходов Должны быть продублированы, а если это не возможно то должны быть проверенны до начала движения, допустим что какой то механизм вышел из строя в процессе движения, в критических ситуациях этих механизмов в авто не много, первым делом это тормозная система, ее можно продублировать хоть на все 4 колеса, по этому одновременно все тормоза сломаться не могут. Подушки безопасности, ну для них есть своя система тестирования, наверняка заранее можно знать сработает подушка или нет, заводской брак конечно ни кто не отменял, но эта вероятность стремится к нулю.
Отказ двигателя, блокировка двигателя, думаю эту ситуацию робот может отработать мгновенно, перевести коробку передач в нейтральное положение и затормозить штатным образом.
Отказ электрики, ну тут чисто механическое решение, переключение тормозной системы на механический вариант торможения автоматически и/или через педаль тормоза.
я возможно не все случаи перечислил, но уж автомобильные то гиганты знают их если не все то 99% неисправностей на дороге способных привести к аварийной ситуации, если эти алгоритмы запрограммировать в робота-автопилота, то выбора кого давить не будет вообще, потому как неисправная машина просто не доедет до того кого придется давить, она вообще не поедет.
Ну и последний аргумент, если владельцы авто доверяют свою жизнь автопилоту, который выбирает кому жить а кому умереть, то в первую очередь должны умирать владельцы автопилота, потому как у них был выбор доверить свои жизни автопилоту или нет, а вот у пешеходов такого выбора не было, по этому приоритет кого оставить в живых должен быть за теми кого не спрашивали.

Удалить комментарий?

Удалить Отмена

Константин Uv

Evgeny K.

8 лет назад

ты из квартиры то на улицу выходил хоть раз ? В реальном мире все не предусмотришь.

-6

Удалить комментарий?

Удалить Отмена

Evgeny K.

Константин Uv

8 лет назад

Это не значит что к этому не надо стремится...

Удалить комментарий?

Удалить Отмена

megabax

Evgeny K.

8 лет назад

"Почему бы не заставить машину остановиться в тот момент когда стало известно о поломке?" - это в первую очередь надо делать. Но это не отменяет необходимости предусмотреть и такие ситуации, когда предварительный тест по какой-то причине не сработает и ИИ окажется перед выбором: врезатья в стену или сбить пешеходов.

Удалить комментарий?

Удалить Отмена

HEKTO TOT

megabax

8 лет назад

Поломка может случится в момент когда пешеходы на дороге. Так в часто бывает. Секунду назад было все в порядке и вдруг ты в полной (___.___). Се ля ви.

Удалить комментарий?

Удалить Отмена

Evgeny K.

HEKTO TOT

8 лет назад

если вы про тормоза, то в случае робота такого селяви быть не должно, так как у машины с роботом не должна быть одна тормозная система которая может сломаться, их должно быть минимум 2 параллельных, и в случае поломки хотя бы одной из них робот должен остановить машину как не пригодную для эксплуатации.

-1

Удалить комментарий?

Удалить Отмена

Константин Uv

Evgeny K.

8 лет назад

чувак - ты прекращай это. вернись в реальность. Абсолютно , 100% отказоустойчивых систем не бывает в природе. Хоть ты 50 дублирующих систем поставь и 10 компьютеров - все равно останется вероятность отказа их всех.

Удалить комментарий?

Удалить Отмена

Evgeny K.

Константин Uv

8 лет назад

Я это прекрасно знаю, просто видимо я плохо объясняю, вероятность того что в автомобиле что то сломается в тот момент когда уже ни чего не спасает она стремится к нулю в том случае если машина исправна, я о том веду речь что роботы надо настраивать так чтобы неисправность выяснялась раньше чем будет поздно, в этом случае вероятность ДТП будет мизерная.
Речь не идет о том что машины не будут ломаться, речь о том что они будучи поломанными не доедут до того места где придется делать выбор кого давить!
я согласен с тем что все равно остается какой то мизерный шанс что такое может произойти, но это будет статистическая погрешность, сравнимая с тем что молния через форточку вскипятит воду в кружке воды на столе!

Удалить комментарий?

Удалить Отмена

Константин Uv

Evgeny K.

8 лет назад

титаник тоже считали непотопляемым и поэтому урезали количество шлюпок. В автомобиле тоже необходимо предусматривать даже крайние непредвиденные ситуации. И заявлять что их не может быть - глупо. Автомобиль очень сложный механизм, а чем сложнее механизм, тем выше вероятность непредвиденной поломки. Да еще и внешние факторы могут быть разнообразнейшими.

Удалить комментарий?

Удалить Отмена

Дзен#2441

Константин Uv

8 лет назад

В таком случае надо чтобы машина экстренно передавала полностью управление водителю, и чтобы водители таких машин умели управлять авто, т.е. навык вождения всё равно должен быть.
Как альтернатива, такие машины должны ездить по специально постренным магистралям, на которых людей быть не должно, ограничить ограждениями например. Магистрали такие можно сделать по примеру нынешнего ЗСД в СПб, над дорогами общего пользования. А если хочешь ездить по всем дорогам, будь добр, получить права и будь готов принимать управление и выходить из ЧП самостоятельно.

Удалить комментарий?

Удалить Отмена

Константин Uv

Дзен#2441

8 лет назад

сидит такой мужик в машине, кофе пьет, в телефон втыкает - и тут на тебе ! управление уже у него ))

Удалить комментарий?

Удалить Отмена

Дзен#2441

Константин Uv

8 лет назад

Ну так, выезжая на дороги, где могут оказаться пешеходы, мотоциклисты и прочие не едущие в таких авто, надо быть к этому готовым.

Удалить комментарий?

Удалить Отмена

Константин Uv

Дзен#2441

8 лет назад

тогда автопилот теряет смысл. раз водитель должен сидеть вцепившись в руль и держать ноги на педаллях, в ожидании что ему передадут управление ))

Удалить комментарий?

Удалить Отмена

Дзен#2441

Константин Uv

8 лет назад

Почему же теряет? Выделенные для таких авто дороги, где невозможно появление других участников движения это раз. И два, сидеть в кресле водителя, при этом не спать и быть трезвым и адекватным, совсем не то же самое что и вести машину постоянно, нагрузки разные. К тому же выход из строя любого агрегата авто детектируется до момента, когда необходимо принять управление человеку и искать выход из ситуации. В случае с отказом тормозов, в пол же никто не оттормаживается, притормаживать начинают заранее, и отказ тормозов заметен заранее, 2-3 секунды чтобы принять управление будут почти всегда, совсем исключать случаи именно внезапного выхода из строя чего либо и обнаружения этого "по факту" конечно нельзя, но ведь нельзя и исключить и падения чего либо с крыши на голову, однако по улицам мы ходим без защиты, да и живём не в бункере.

Удалить комментарий?

Удалить Отмена

Константин Uv

Дзен#2441

8 лет назад

ну может для Вас и не теряет, а для меня такой автопилт бессмысленен. Сидеть тупо держась за руль , ноги на педалях и смотреть вперед не имея возможности заниматься чем-то другим, кроме контроля ситуации - ну уж нет. Тогда я уж лучше сам буду управлять.

Удалить комментарий?

Удалить Отмена

Дзен#2441

Константин Uv

8 лет назад

Ну я вообще опасаюсь доверять свою жизнь и здоровье кому бы то ни было, кроме случаев когда этого нельзя избежать. А уж тем более автопилоту, который непонятно как и по каким алгоритмам работает и работает ли вообще.

Удалить комментарий?

Удалить Отмена

Константин Uv

Дзен#2441

8 лет назад

на самолете не летали ни разу ?

Удалить комментарий?

Удалить Отмена

Дзен#2441

Константин Uv

8 лет назад

Самолёт относится к ситуации "когда этого нельзя избежать" Я конечно мог бы написать более развёрнуто сразу но понадеялся что необходимости в этом нет. Разворачиваю, полёт на самолёте, и прочие подобные ситуации, это когда избежать можно но с большим ущербом для себя, т.е. в случае с самолётом это большая потеря времени, цена-риск, я делаю выбор. Это ж блин элементарные вроде вещи, всегда приходится чем то жертвовать в пользу чего то. В случае с автопилотом я бы в городе им пользоваться не стал, а вот на междугородних трассах воспользовался бы с радостью...

Удалить комментарий?

Удалить Отмена

Константин Uv

Дзен#2441

8 лет назад

а я бы наоборот , больше доверял автопилоту в городе. картогрофирован город лучше, скорости меньше,информации о трафике больше, камер наблюдающих за дорогой больше + камеры других автопилотов (при условии наличия единого информационного пространства системы управления городскими автопилотами).

Удалить комментарий?

Удалить Отмена

Дзен#2441

Константин Uv

8 лет назад

Ну каждому своё, я бы всё вами перечисленное в БК бы мониторил в онлайн режиме, с проекцией изображения на лобовое стекло.

Удалить комментарий?

Удалить Отмена

Евгений

8 лет назад

Это то же самое что когда США проводят свои мирные бомбардировки , потом начинают считать процент погибших мирных . У америкосов нет такого понятия как мораль, есть только подсчет живых и мертвых. А то что автомобиль представляет из себя причину этих событий как то упускается из виду. Если есть возможность избежать наезд на пешехода надо его избежать любыми способами потому что пешеход не есть причина вашей глупости.

-1

Удалить комментарий?

Удалить Отмена

Дзен#2441

Евгений

8 лет назад

А вариант что пешеход оказался там, где его быть не должно, перебегал дорогу например, вы не рассматриваете? Не всегда водитель глуп, пешеходы гораздо чаще водителей нарушают ПДД. Водитель ПДД хотя бы обязан знать, а пешеход нет, и водитель несёт ответственность за нарушение и по закону и в жизни, а пешеход только на бумаге.

Удалить комментарий?

Удалить Отмена

Показать 294 комментария