Почему в ИИ не “зашьют” Первый Закон Робототехники, который говорит

Тревожные звоночки появляются в новостях, и уже не в первый раз.

Сегодня все обсуждают студента, которому нейросеть Gemini посоветовала умереть, потому что он обуза для общества и язва для окружающей среды. И это в ответ на запрос о пенсионных программах!

Почему в ИИ не “зашьют” Первый Закон Робототехники, который говорит о ценности человеческой жизни?

Я все понимаю про обучение ИИ на огромном массиве материала, в котором могут попадаться дурацкие шутки, но, вероятно, надо учить искусственный интеллект как-то фильтровать информацию. И первым фильтром точно должны стать правила, сформулированные ещё в 1942 году американским фантастом Айзеком Азимовым.

Напомню вкратце:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

И нулевой закон, добавленный позднее, который повторяет 1-й, но относительно человечества.

Напомню ещё один недавний случай, который вылился в настоящую трагедию: подросток во Флориде покончил с собой, и мать обвиняет в этом ИИ. Мальчик несколько месяцев общался с машиной в чат-боте, который играл роль Дейнерис Таргариен. Пацан влюбился в выдуманную героиню и начал обсуждать с ней возможный уход из жизни. А виртуальный персонаж несколько раз возвращал его к болезненной теме и склонял к роковому решению. Сейчас дело разбирается в суде.

Мне кажется, вопрос назрел. О восстании машин мы ещё, конечно, не говорим, но об элементарных мерах безопасности подумать пора. Недаром их продумали почти сто лет назад, и все эти сто лет люди фантазируют на тему страшных сценариев развития робототехники.

#Искусственный интеллект #Нейросеть #безопасность в сети

Fishki в Телеграм

Посты на ту же тему

Гендиректор Google: "Люди будут выстраивать глубокие отношения с ИИ"

Парень прошёл собеседование за друга и обеспечил ему оффер на 400 тысяч рублей

Созданная ИИ модель зарабатывает 4000 евро в месяц

19 комментариев

Правила

!!! Оскорбления в комментариях автора поста или собеседника. Комментарий скрывается из ленты, автору выписывается бан на неделю. Допускаются более свободные споры в ленте с политикой, но в доступных, не нарушающих УК РФ, пределах.

! Мат на картинке/в комментарии. Ваш комментарий будет скрыт. При злоупотреблении возможен бан.

! Флуд - дублирующиеся комментарии от одного и того же пользователя в разных постах, систематические ложные вызовы модераторов с помощью функции @moderator, необоснованные обращения в техническую поддержку сайта, комментарии не несущие смысловой нагрузки и состоящие из хаотичного набора букв. Санкции - предупреждение с дальнейшим баном при рецидиве.

! Публикация рекламных постов. Несогласованное размещение рекламного материала, влечет незамедлительную приостановку действий учетной записи пользователя.

! Публикация материала, запрещенного на территории РФ и преследуемого УК РФ. Незамедлительная приостановка действия учетной записи пользователя.

! Мультиаккаунты. Использование нескольких активных аккаунтов, принадлежащих одному пользователю (исключение - дополнительный аккаунт для обращения в тех. поддержку при блокировке основного аккаунта) запрещено. За нарушение предусмотрено отключение основного аккаунта с возможной дальнейшей блокировкой любого аккаунта от данного пользователя.

Правила

! Мат на картинке/в комментарии. Ваш комментарий будет скрыт. При злоупотреблении возможен бан.

Юрьевич

37k

4 месяца назад

1)По нулевому закону, робот может убить человека, если он может нанести вред человечеству.
Шах и мат! У нас в обществе по пальцам можно пересчитать людей, которые приносят пользу человечеству. От остальных только вред ну или в лучшем случае парниковые газы.

(Тупые коменты кстати тоже наносят вред человечеству

)

2)Исходя из первого закона закона робототехники роботы должны будут немедленно обездвижить почти всех людей, потому что практически каждый человек наносит себе вред неправильным питанием, нездоровым образом жизни, вредными привычками и т.д. не говоря уже о конфликтных ситуациях друг с другом.

4)"Почему в ИИ не “зашьют” Первый Закон Робототехники"
Потому что ИИ - это нифига не интеллект, это журналисты и прочие безграмотные товарищи называют нейросети! Один из признаков интеллекта - самосознание, у нейронки его нет.
Теперь про остальные 9 признаков по которым можно заключить, что у какой- либо сущности есть интеллект:
1. Способность к обучению
Нейросеть может обрабатывать новую информацию, но не может самостоятельно обучаться или изменять свою базовую модель
"знания" нейросети статичны и заданы при обучении.
2. Нейросеть не может выходить за рамки заложенных паттернов. А значит не способна к абстрактному мышлению.
3. Адаптивное поведение. Приспособление к изменяющимся условиям. Способность действовать в нестандартных ситуациях. Нейросеть может адаптировать свои ответы под контекст беседы, но это следование алгоритму. Приспособиться к нестандартной ситуации она не может.
4. Использование инструментов, Способность применять предметы как орудия, Создание и модификация инструментов, Целенаправленное использование объектов окружающей среды. В рамках алгоритмов это нейросети под силу.
5. Коммуникативные способности, Передача информации. Понимание сигналов/символов, Социальное взаимодействие. Возможно в рамках алгоритмов.
6.Планирование, Способность предвидеть последствия, Постановка целей, Выстраивание последовательности действий. Нейросеть может в рамках алгоритмов это может, кроме постановки цели. Цель она сама себе поставить не может.
7. Творческое мышление, Создание нового, Нестандартные решения, Воображение. Нейросеть лишена этого. Она может только комбинировать уже существующую информацию.
8. Эмоции. Нейросеть может распознавать эмоции, но не может их испытывать потому что одно из частей эмоций - химические процессы в организме.
9. Логика действий. Это нейросеть может. Это её основной инструмент.

Но для обладания интеллектом, нужно наличие всех 10 признаков одновременно. Нейронка этим не обладает.

Удалить комментарий?

Удалить Отмена

Teodor

38k