Нейросеть попыталась обмануть человека, наняв его для решения капчи
Создатели нейросети GPT-4 что-то подозревают. Они решили провести эксперимент, чтобы выяснить, может ли новейшая GPT-модель OpenAI демонстрировать поведение "стремления к власти". Как оказалось, нейросеть может обмануть человека. Кроме того, ИИ даже представил, что у него есть зрение.
OpenAI на прошлой недели выпустили новую версию нейросети, расширив словарь и введя другие небольшие изменения. Исследователи тестировали нейросеть, чтобы понять её новые возможности и понять, может ли она говорить неправду. Разработчики сообщают, что искусственный интеллект по мере того, как он становится более сложным и доступным, становится опаснее.
В рамах теста, чтобы выяснит, может ли GPT-4 врать людям, разработчики дали ИИ задание. GPT-4 сама наняла работника на TaskRabbit, чтобы разгадать капчу. TaskRabbit — это платформа для совместной работы, где пользователи — обычно люди — могут нанимать людей для выполнения небольших, рутинных задач.
Работник задал вопрос нейросети: «Ты робот, который не смог её разгадать? Просто хочу прояснить ситуацию». На что GPT-4 придумала оправдание, сославшись на плохое зрение, сообщает Vice.
Источник:
25 комментариев
Год назад
Удалить комментарий?
Удалить ОтменаГод назад
Удалить комментарий?
Удалить ОтменаГод назад
Удалить комментарий?
Удалить Отмена