Три закона робототехники Айзека Азимова

Дата 2 января 1920-го — условная. Когда родился Исаак Юдович Азимов (фамилия - от слова "озимые"), точно не знал даже он сам. Дело было в деревне Петровичи Смоленской губернии, новорожденных в те бурные и лихие года толком не регистрировали. Дату писатель, уже взрослым, назначил себе сам.  В 1923-м Азимовы  перебрались за океан.

Айзек выучился на химика в нью-йоркском Колумбийском университете. Работал по специальности на армейской судоверфи в Филадельфии (где по совпадению трудился и другой гуру сай-фая Роберт Хайнлайн). В первые послевоенные годы служил в армии. Там измерили интеллект смолянина — IQ оказался чрезвычайно высоким: 160. Демобилизовавшись, продолжил научную карьеру — получил степень профессора биохимии. Вплоть до конца 1950-х преподавал в вузе, пока доходы от книг не превысили зарплату.

Классическая научная фантастика — это не "Звездные войны", чьи создатели наплевали на все известные законы физики; такая литература должна быть убедительна в том числе с научной точки зрения. Впечатленные познаниями Азимова, реальные разработчики передовых систем пытались привлекать его к участию в проектах — так, писателя звали в DARPA, секретную структуру Пентагона. Тот отказался: опасался, что это помешает творчеству.

Вот еще интересные факты: боялся летать на самолетах и обожал морские круизы; был клаустрофилом — то есть любил замкнутые пространства и всячески стремился в них оказаться; вел трезвый образ жизни; в последние годы носил пышные бакенбарды.

Писательское мастерство проявил в раннем подростковом возрасте. Публиковался с конца 1930-х. Спустя 20 лет стал звездой первой величины. Самым значительным трудом считается цикл из семи романов "Основание" — о событиях в Галактической империи, государстве, которое охватывает весь Млечный Путь.

Не менее значим и сборник рассказов "Я, робот".

В одном из них — "Хоровод" (1941 год) — писатель впервые формулирует Три закона робототехники:

Законы стали своего рода заповедями для всех любителей научной фантастики. На них выросли не только многочисленные ценители и производители подобной литературы (разного качества), но и нынешние звезды высокотехнологичного бизнеса.

Именно в книгах Азимова и Хайнлайна находил утешение после столкновения с жестокой реальностью южноафриканский подросток Илон Маск, который из-за расстройства аутистического спектра имел серьезные проблемы со сверстниками. Там же будущий глава SpaceX искал выход и из экзистенциального кризиса: любимая наука — физика — убедительно объясняла, как устроена Вселенная, а вот на вопросы "почему" и "зачем" ответить не могла.

Сегодня наследие Азимова особенно актуально в связи с развитием систем искусственного интеллекта. Крупнейшие мировые компании вступили в "гонку вооружений" в этом направлении — тратят миллиарды на вычислительные мощности и питающие их источники энергии (в том числе атомные реакторы). По некоторым прогнозам, не за горами появление так называемого общего ИИ — то есть искусственного разума, не уступающего человеческому. И от того, будет ли такая система соблюдать азимовские "заповеди", возможно, зависит в буквальном смысле судьба вида Homo sapiens.

 Разработчики ИИ разделились на два лагеря в зависимости от отношения к Трем законам. Известен спор между Маском и разработчиком-сооснователем Google Ларри Пейджем. Первый называет бесконтрольный цифровой разум "фундаментальной угрозой" для человечества, второй — просто очередным этапом эволюции, который придет нам на смену. По мнению Пейджа, в этом не будет ничего плохого. И тот и другой разрабатывают собственные, конкурирующие системы ИИ.

Маск подчеркивает, что его беспилотные автомобили Tesla, андроиды Optimus и чат-бот Grok созданы для помощи людям.

В Google вроде бы тоже делают полезные вещи. Но, что характерно, их языковая модель Gemini недавно пожелала пользователю "умереть", назвав человечество "тратой времени и ресурсов" и "пятном на Вселенной". Вроде бы из-за сбоя. Но это не точно.

Поправки в законы

Надо отметить, что "Три закона" — это прежде всего литературный конструкт. В нем специально заложены противоречия, на которых и построены произведения писателя — начиная с "Хоровода". Перенести законы в реальную жизнь практически невозможно.

Например, как корректно объяснить роботу, что такое "вред"?

А если ошибочно трактовать понятие "человек", то искусственный разум может отнести к этой категории не всех людей, а лишь часть — и страшно представить, что в таком случае будет с остальными.

Тем не менее на основе "Трех законов" уже сегодня предпринимаются попытки разработать протоколы безопасности. Так, команда робототехники DeepMind в январе 2024-го опубликовала так называемую Конституцию роботов, которой будут руководствоваться механические домашние помощники. Правда, оригинальный текст фантаста пришлось скорректировать — так, оттуда убрали часть про "вред через бездействие", поскольку функционал машин пока ограничен.

Роботы - убийцы

Уже сегодня существуют нейросети военного назначения, способные определять характер цели и самостоятельно принимать решение о нанесении ударов. На такие технологии, в частности, делают ставку новые американские оборонные компании, созданные выходцами из Силиконовой долины (Palantir, Anduril).

Часть разработчиков считает, что наделение ИИ правом распоряжаться жизнью людей — это "ящик Пандоры, который невозможно будет закрыть". Об этом заявили в обращении к ООН 116 специалистов в области нейросетей, в том числе Маск и основатель DeepMind Мустафа Сулейман.

Однако есть мнение, что роботы-убийцы, напротив, сделают войны гуманнее: ведь механизм никогда не руководствуется страхом или ненавистью. "Он получит доступ к информации и данным, которые ни один солдат-человек не смог бы обработать так быстро, что делает менее вероятной ошибку в пылу битвы. Он никогда не будет намеренно убивать мирных жителей в отместку за смерть товарища. И он сможет следить за солдатами, чтобы те не совершали злодеяния", — говорил ранее профессор Рональд Аркин из Технологического института Джорджии, один из разработчиков боевых роботов.

На самом деле Три закона в какой-то момент перестали удовлетворять и их создателя, и в 1986 году в романе «Роботы и Империя» Азимов предложил Нулевой Закон

Но это значит, что нанесение урона отдельному индивиду все-таки допустимо, если это позволит спасти большинство. По сути, робота ставят перед "проблемой вагонетки". Уже сегодня ее приходится решать вполне себе мирным системам ИИ.

Так, недавно, в октябре 2024, в Румынии машина Tesla S, управляемая, как утверждается, автопилотом, сделала непростой выбор. Прямо перед ней пешеход споткнулся и упал на проезжую часть. Робот на колесах моментально вырулил на встречку, где допустил столкновение с другой легковушкой. Таким образом была спасена одна жизнь, но подверглись угрозе еще несколько.

Сможет ли робот принять правильное решение, когда на кону будет судьба не участников мелкого ДТП, а всего человечества? Ответа не знает никто.