Ученые предложили выбрать, кого должен убить беспилотный автомобиль

Эти задачи стоит решить, но не воспринимайте их буквально. Проблема глубже. Так что по порядку (виноват, ОЧЕНЬ много букв).
На официальном сайте U.S. Departament of Transportation 20.09.2016 года был опубликован документ "Federal Automated Vehicles Policy" (далее FAVP). По духу и букве он является попыткой сформулировать и предложить общественности обсудить ключевые проблемы внедрения автомобилей с автономным управлением. В документе 160 страниц, язык английский, посему ограничимся лишь главой 11 "Ethical Considerations" (дословно: "Этические соображения"). Основные положения и в самом кратком изложении:
1. Все будущие дорожные ситуации предусмотреть нельзя.
2. Ключевыми для беспилотников являются три принципа: мобильность, безопасность, соблюдение законодательства. Но все их действия должны быть понятны и предсказуемы для окружающих.
3. Если для обеспечения мобильности (не в ущерб безопасности) все-таки потребуется отступить от требований законодательства, включая ПДД, беспилотник должен это делать. Например, пересечь сплошную линию разметки для объезда препятствия, аварийного или неправильно припаркованного автомобиля...
4. Однако если ДТП неизбежно, система управления должна предпринять все действия чтобы минимизировать ущерб.
Но здесь (п.4) возникает дилемма, а в некоторых случаях прямой конфликт интересов. Даже по приоритету - кого именно в критических случаях можно подвергнуть максимальной угрозе жизни и здоровью: пассажиров беспилотника, кстати, защищенных системами активной и пассивной безопасности автомобиля (а какими они будут через 10-15 лет?) или внезапно выбежавшего на дорогу в нарушении ПДД пешехода (ребенка), не защищенного ничем... Решая задачи теста, Вы этот учитывали? Кстати, мне попалась фраза из интервью одного из российских специалистов о том, что такой проблемы не существует, робот не имеет права принимать решения и если в ПДД записано тормозить, то значит - тормозить. "А то, объезжая одного ребенка, можно автобус с пятьюдесятью детьми увести на встречную полосу"... Однако напомню: система противоподкатной защиты типа Front Collision Guard (стандартное решение для автобусов Mercedes-Benz и Setra, есть у Volvo c другим названием) способна сохранить жизненное пространство салона при фронтальном ударе на 40 км/ч в бетонную стену. Но что будет с ребенком, которого ударит автобус даже на 20 км/ч? Ведь он может подмять ребенка под себя... Впрочем, лидар, если обнаружит на встречке приближающийся автомобиль, никогда позволит автобусу выехать ему "в лоб". И, собственно, что такого, если в нерасчетной ситуации для предотвращения ДТП, придется выехать на свободную встречную полосу, причем - не создавая аварийной ситуации?
Скажу более. Летом 2016 года концерн ZF Friedrichshafen AG показал систему Evasive Maneuver Assist (EMA). Она является функцией системы автоматического торможения при критическом сокращении дистанции. Ибо бывают ситуации, когда тормозного пути не хватает. Решая задачи теста, Вы этот учитывали? Но электроника уже способна такую ситуацию распознать. Ибо альтернатива бить на пустой дороге внезапно остановившейся автомобиль! Бить 40-тонной фурой легковушку, в салоне которой могут быть дети? Посему ZF (совместно с WABCO) предлагает систему активной безопасности - в серии с 2018 года, способную в критической ситуации недостаток дистанции для торможения компенсировать маневром отворота... Иными словами, ЕМА понимая, что наезд на препятствие неизбежен, в последний момент уводит грузовик на соседнюю полосу. Пока она не автоматическая, так как команду на начало маневра подает водитель одним резким движением рулевого колеса в соответствующую сторону. Однако считается, что в критической ситуации он, если бы выполнял подобный маневр самостоятельно, мог бы неверно оценить скорость, дистанцию, "недокрутить" или "перекрутить" руль, что привело бы к потере управления автомобилем - напомню речь идет об автопоезде длиной 18 метров и разрешенной полной массой 40 тонн. Со своей стороны электроника EMA, используя системы поддержания курсовой устойчивости (ESC), экстренного торможения (AEBS) и помощи движению по полосе (LDW) может провести такой маневр более корректно. Но ведь робот тоже должен иметь право на использование ЕМА!
Более того. Если задуматься о двух последних пунктах (3 и 4), то думаю, со мной можно согласиться: подобные решения на дороге зачастую принимает водитель. Только результат зависит от множества переменных: возраст, стаж (опыт), степень подготовки, включая дополнительные обучения, психологическое и физическое состояние. Робот, опирающийся на всю совокупность систем автомобиля, лишен таких недостатков. Но ведь могут быть дорожные ситуации, когда безопасность одного человека можно обеспечить только за счет другого. А какие должны быть критерии для принятия решения в таком случае?
И еще по четвертому пункту. Иногда говорят, что в результате робот получит право на убийство и Первый закон робототехники отменен. Но раз уж мы и в такие "дебри" уходим, напомню, что он гасит: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред". Однако что такое "бездействие", например, в критической, нерасчетной дорожной ситуации? А может то самое торможение, прописанное в российских ПДД (например, в борт автобусу с детьми, хотя роботу известно, что тормозного пути не хватает), вместо которого должен быть маневр отворота, даже через сплошную, в кювет или фонарный столб? Но ведь в этом случае может быть "причинен вред человеку", находящемуся в кабине/ в салоне беспилотника! Фактически мы возвращаемся к ситуации, когда безопасность одного человека можно обеспечить только за счет другого...
Посему FAVP допускает, что до массового внедрения беспилотников потребуется рассмотреть вопрос о разработке особых правил принятия решений в случаях конфликтов между безопасностью, мобильностью и законностью. Их алгоритмы должны вырабатываться публично и прозрачно, с использованием данных и рекомендаций федеральных и государственных регуляторов, мнений и опыта водителей, пассажиров и иных уязвимых участников дорожного движения, разумеется - с учетом последствий принятых решений.
Посему думаю, что даже если только 15-20+ лет мы все-таки действительно подойдем к SAE Level 4, а затем и Level 5 программ управления беспилотниками, иными словами - к полной автономности, то данной темой надо заниматься уже сегодня, что и предлагает MIT с тестами на специальном сайте. К сожалению, в России есть мнение, что сначала, обязательно опередив зарубежных производителей, надо выпустить на дорогу беспилотники, программно заставить их соблюдать не самые совершенные ныне действующие ПДД, а вот потом, когда будут возникать "ситуации", начинать разбираться. Причем по факту и каждому случаю отдельно. Например, когда машина, "приговоренная" только тормозить, ожидаемо задавит внезапно выбежавшего на дорогу ребенка...

Всё, что управляется живыми мозгами - не имеет права появляться на проезжей_части_для_роботов.