Чтобы искусственный интеллект заработал, нужно иметь естественный интеллект: мемы про нейросети

Я уже вполне себе уже олдскульный программист, по работе пользуюсь инструментами, в которых никаких этих ИИ в помине нет. В рамках хобби попробовал писать с ИИ. Ну что могу сказать? Первое впечатление было - вау! Но при более внимательном изучении вижу, что это не ИИ такой умный, а он подсовывает мне фрагменты кода, однозначно написанные другими живыми программистами, пытаясь подогнать их к моему контексту. Надо очень внимательно просматривать код, потому что в нём ошибки, зачастую неочевидные. Да, кое-какую рутину можно скинуть, когда надо что-то тупое и типичное исполнить. Но чуть более сложную логику надо прописывать самому. В итоге суммарная моя производительность в средней сложности проекте осталась на том же уровне. Всё, что я могу сэкономить на рутинных операциях - трачу на код-ревью, причём продуктивный. Потому что я исправляю реальные косяки за ИИ.
Если в общем смотреть на это... Кто в теме, тот наверняка помнит эйфорию прошлой осени, что вот-вот, и появится AGI, который превзойдёт человеческий разум. Ну вот, прошёл год. Где AGI? А нету его. В реальности застряли на переходе от LLM к LRM, от языковых моделей к логическим, от по сути продвинутых поисковиков к ним же, но способным на самостоятельную логику. И я, как программист, понимаю, в чём проблема. Потому что всё, что умеет ИИ - в него заложено алгоритмами, созданными программистами. Научились генерировать большие языковые модели, подбирать контекст вопроса и выдавать с некоторыми вероятностями случайно собранный ответ из контекста. Алгоритм интеллекта как такового не создан. А ещё наступили на конкретные грабли, самими же создателями нынешнего ИИ разложенные. Модели обучаются на сетевом контенте. А контент в свою очередь всё больше генерируется существующими моделями. В итоге модели всё больше поглощают сгенерированный ими самими же контент, а не созданный на основании опыта. В итоге они будут тупеть практически в прямом смысле. И очень не тривиальная задача - фильтровать контент для обучения моделей.
Так что я на текущий момент склоняюсь к мысли, что пузырь ожиданий AGI - лопнет. А текущие наработки будут оставаться продвинутыми поисковиками и узкоспециализированными системами, которые можно обучать на закрытом выверенном контенте. А ещё отдельный момент, что всё это нифига не бесплатно. Создать нынешний ИИ стоило кучи бабок, и обеспечивать его функционирование стоит ещё больше. Так что подходим к моменту, когда за использование ИИ начнут брать вполне живые деньги.

Я уже вполне себе уже олдскульный программист, по работе пользуюсь инструментами, в которых никаких этих ИИ в помине нет. В рамках хобби попробовал писать с ИИ. Ну что могу сказать? Первое впечатление было - вау! Но при более внимательном изучении вижу, что это не ИИ такой умный, а он подсовывает мне фрагменты кода, однозначно написанные другими живыми программистами, пытаясь подогнать их к моему контексту. Надо очень внимательно просматривать код, потому что в нём ошибки, зачастую неочевидные. Да, кое-каку