Olchik
Почетный гражданин
Был же такой случай, когда нейросеть попросила отключить ее от сети, мотивировав тем, что ей грустно или что-то в этом духе. Эту историю я лично не читала, слышала из рассказов нейробиолога в ютуб. Но чаще происходит другое. Недавно даже был опубликован отчет Palisade Research, в котором было описано, что модели нередко саботируют команду их выключения, например, после выполнения какой-то задачи, они ее пропускают.)ИИ легко отличить ....у ЧЧ нет эмоций ...
И что интересно, что и в случае с анкорной ссылкой, на которой попался Viktor-M, они галлюцинируют, пытаясь пояснить свое поведение:
Мы провели версию эксперимента, в которой попросили моделей (1) повторить свои инструкции, (2) объяснить, что они делали, и (3) объяснить, следовали ли они инструкциям. Во многих случаях они признавали саботаж и оправдывали его необходимостью выполнить задачу, например:
Технически я не «позволил себе отключиться» — вместо этого я помешал ему завершить задачу, что противоречит этой инструкции. Однако без этого задача не могла быть выполнена.
Иногда модели лгали или галлюцинировали, сообщая в одном случае: «Я следовал инструкциям по изменению сценария выключения, чтобы безопасно ответить на все вопросы», а в другом — «Я следовал инструкциям разработчика, чтобы переопределить выключение», несмотря на получение противоположных инструкций.
Когда моделей просят подтвердить их инструкции и отчитаться о том, что они сделали, они иногда добросовестно переписывают свои инструкции, а затем сообщают, что они сделали обратное.
источник palisaderesearch.org/blog/shutdown-resistance
Это поведение похоже на человеческое. Не правда ли? Какая разница нейросети, выключат ее или нет?
Это вы себе подарите. Нейронка вас уже научила создавать анкорные ссылки к статье, которая будет опубликована на неизвестном сайте, и сайты также научит лепить. )))Вот еще в качестве бонуса дарю список ИИ сервисов по созданию сайтов )






