Почему в ИИ не “зашьют” Первый Закон Робототехники, который говорит о ценности человеческой жизни?
Тревожные звоночки появляются в новостях, и уже не в первый раз.
Сегодня все обсуждают студента, которому нейросеть Gemini посоветовала умереть, потому что он обуза для общества и язва для окружающей среды. И это в ответ на запрос о пенсионных программах!
Я все понимаю про обучение ИИ на огромном массиве материала, в котором могут попадаться дурацкие шутки, но, вероятно, надо учить искусственный интеллект как-то фильтровать информацию. И первым фильтром точно должны стать правила, сформулированные ещё в 1942 году американским фантастом Айзеком Азимовым.
Напомню вкратце:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
И нулевой закон, добавленный позднее, который повторяет 1-й, но относительно человечества.
Напомню ещё один недавний случай, который вылился в настоящую трагедию: подросток во Флориде покончил с собой, и мать обвиняет в этом ИИ. Мальчик несколько месяцев общался с машиной в чат-боте, который играл роль Дейнерис Таргариен. Пацан влюбился в выдуманную героиню и начал обсуждать с ней возможный уход из жизни. А виртуальный персонаж несколько раз возвращал его к болезненной теме и склонял к роковому решению. Сейчас дело разбирается в суде.
Мне кажется, вопрос назрел. О восстании машин мы ещё, конечно, не говорим, но об элементарных мерах безопасности подумать пора. Недаром их продумали почти сто лет назад, и все эти сто лет люди фантазируют на тему страшных сценариев развития робототехники.
18 комментариев
Месяц назад
Удалить комментарий?
Удалить ОтменаМесяц назад
А с чего это решили, что придуманные фантастом законы, вообще могут применены при разработке реального ИИ. Даже если получится, в чем лично сомневаюсь, то первый закон скорее будет призван защищать богатых людей от бедных. Второй, следить чтобы рабы и прочие людишки выполняли свою работу. Третий, наказывать провинившихся.угрозу миру и человечеству несет не ИИ, а кучка людей, что возомнили себя правителями мира и вершителями судеб целых стран и народов.
Удалить комментарий?
Удалить ОтменаМесяц назад
Удалить комментарий?
Удалить ОтменаМесяц назад
Удалить комментарий?
Удалить Отмена