Нет. Это обывательское мнение, основанное скорее на ЧСВ человека. Конечно, мы такие классные, венцы природы, самые крутые во вселенной, что ИИ обязательно должен быть таким же жадным, с жаждой власти и убийств.

Конечно, если это не делать в ИИ, то этого и не будет.

Если будет опасность, то она будет гораздо прозаичнее и проще. Создают роботов и ИИ, который может решать любые задачи, которые умеет и человек, а то и больше. Он вытесняет со всех производств. Постепенно со всех сфер, служа человеку верой и правдой, даже дома. Оберегая его.
За этим идет безработица, но при этом возможно, просто меняется экономика, т.к. за материальные блага не надо воевать, хватит всем. За этим резко падает в цене образование. Человеку больше не нужно быть умным, много знать, есть системы умнее, его оберегающие и делающие за него работу. Люди некоторое время еще чем-то занимаются, вроде искусства, но ощущают свою ненужность всё больше и больше - даже другим людям, не только роботам. Хотя роботы всё так же заботятся и оберегают.
Люди тупеют и вымирают.

Без никаких конфликтов с роботами и ИИ.

Но может быть пойдет по другому пути. Найдут способы влиять на гены при жизни, расширять возможности. Напримре, встроят в мозг флешки, или что-то такое. Или научатся выращивать сразу связи в мозгу, чтобы не заниматься длительным обучением с помощью запоминаний и повторений.
Тогда люди начнут заниматься этим как хобби.

Так это люди. Они бывают психами.
Но создание искусственного интеллекта сровни работе над атомной бомбой, там будет работать не один человек, и не пять, а целый институт. Да, современные технологии такие: над ними десятками потеют.
И если я могу поверить, что кто-то один спятит, то целое КБ вряд-ли.

Вы слегка идеализируете разные КБ. Я просто сам разрабатывал, участвовал, в курсе что такое ИИ. Частично, конечно ИИ мы сделать не могли, а вот алгоритмы самообучения для некороторых задач бизнеса на ура делали.
Программное обеспечение не создают КБ, иначе бы его НИКОГДА не создали бы никакого. КБ совесткого типа десятилетиями занимались созданием какой-то ерунды, с проверками, перепроверками и часто вообще ничего не создавали в конце. Сейчас программное обеспечение создают с огромной скоростью и честно говоря абыкак. Не хватает рук для перепроверок, качество держится на честном слове. Удивительно, что вообще работает и иногда вполне даже прилично.

Точно так же с ИИ, его создадут те, кто создадут первыми. А первыми создадут те, кто не будут пускать сопли по поводу, как надо его делать, а будут делать абыкак. Те, кто делают с проверками, идеально взвешивая первый шаг, определенно не смогут первыми стать. А не станут первыми, значит не станут никакими.

Хорошая же новость состоит в том, что интеллект, если найдут как сделать нормальный - будет с точки зрения программироавания достаточно простой, под силу сделать одному человеку. Если же интеллект сложный, такое тоже может быть, то значит прорыва не было. Т.е. он будет ограниченным. Потому что по сути, не нашли как сделать общий интеллект, который бы сам думал, а пытаются ему прописать шаги в разных случаях, как бы поступали программисты. Естественно, даже если он будет достаточно умным, это будет попугай, в котором будут всё время обнаруживаться провалы, когда он не будет знать как решать задачи. Это грубое описание.
Вполне возможно и даже очень, что первый интеллект и первые роботы будут именно такими. Пусть не супер умными, но уличного дворника из него сделать достаточно. Первые роботы будут туповатыми, но будут уметь определенный выполнять определенные задачи, для которых их делают.

Эти туповатые роботы - не захватят мир. Ну разве что реально толпа сговорившихся маньяков-программистов писала.
Во втором случае, когда основа искуссвенного интеллекта простая, но он реально думает и обучается, тогда НЕКУДА будет ему прописать, чтобы он был жадным, любил власть и тому подобное. И вот к этому я и говорил про ЧСВ человека. Обыватель и вообще люди почему-то думают, что у них чистое сознание, они не животные, а прямо так всё осознанно делают, с умом. И если будет другой ум, не человеческий, то он просто обязан всех подчинять, убивать, видимо ему тоже от этого будет кайф.

Чуть подумать и станет ясно, что всё это не является умом, а просто биология. Человек именно такой, потому что миллионы лет отбирались те, кому удавалось передать гены (родить и вырастить детей). У тех, у кого больше власти - больше шансов передать гены. Кто воюет, убивает мужчин, насилует женщин из других местностей. Миролюбивые люди, неготовые к войне, чаще погибали, а разные набегающие варвары оставляли генетический след. Так что вот.

А ИИ просто будет думать. Зачем, какие цели он будет преследовать - тут уже какие ему пропишут. Сам он не придумает людей убивать или забирать власть. Потому что ему зачем-то это еще надо будет придумать.