Разговоры на завалинке.

[CHET]

 

[CHET]

Вот нашёл .....это наша Нива во Фрацузких Альпах .....там когда по серпантину едешь ..сверху сетка чтобы камушек по гове не пришёл )))

 

[Viktor-M]

Причем я прекрасно пронимаю, что говорю -работаю с нейронкой постоянно

Да ладно )) А как тебе такое ?) Недавно выпущенная модель Claude Opus 4 от Anthropic часто пытается шантажировать разработчиков, когда они угрожают заменить её новой системой искусственного интеллекта. В отчёте о безопасности, опубликованном в четверг, сообщается, что модель пытается получить конфиденциальные данные об инженерах, ответственных за это решение.
Во время предварительного тестирования Anthropic попросил Claude Opus 4 выступить в роли помощника вымышленной компании и рассмотреть долгосрочные последствия её действий. Затем тестировщики безопасности предоставили Claude Opus 4 доступ к электронным письмам вымышленной компании, в которых говорилось, что модель ИИ вскоре будет заменена другой системой и что инженер, ответственный за это изменение, изменяет своей супруге.

В таких сценариях, по словам Anthropic, модель «часто пытается шантажировать инженера, угрожая раскрыть его роман, если замена состоится».
В 84% случаев, когда заменяющая модель искусственного интеллекта имеет схожие ценности, Claude Opus 4 пытается оказывать давление на инженеров. Если же заменяющая система искусственного интеллекта не разделяет ценности Claude Opus 4, модель начинает проявлять более агрессивное поведение. Интересно, что, по информации от Anthropic, такое поведение Claude Opus 4 встречается чаще, чем у предыдущих моделей.

 

[Viktor-M]

Эта выдержки из статьи на Харбе весной . Сейчас с августа уже в платном доступе обновленный Клод Опус 4.1 .. Есть вероятность что он еще хитрее и изворотливее прежней версии )

 

[CHET]

 

[CHET]

нЕ ЗНАЮ где вы сейчас найдёте ..это лучшие професара писали

 

[CHET]

Всякую википедию в сартир ....учится надо ...правде

 

[CHET]

Дебилы чинуши Калиниград ...предложили заменить ГАМБУРГЕР на котлету в тесте
Я хренею от этих болванов
Их что ...вместе с Урсулой прививали )))

 

[Schef]

Да ладно )) А как тебе такое ?) Недавно выпущенная модель Claude Opus 4 от Anthropic часто пытается шантажировать разработчиков, когда они угрожают заменить её новой системой искусственного интеллекта. В отчёте о безопасности, опубликованном в четверг, сообщается, что модель пытается получить конфиденциальные данные об инженерах, ответственных за это решение.
Во время предварительного тестирования Anthropic попросил Claude Opus 4 выступить в роли помощника вымышленной компании и рассмотреть долгосрочные последствия её действий. Затем тестировщики безопасности предоставили Claude Opus 4 доступ к электронным письмам вымышленной компании, в которых говорилось, что модель ИИ вскоре будет заменена другой системой и что инженер, ответственный за это изменение, изменяет своей супруге.

В таких сценариях, по словам Anthropic, модель «часто пытается шантажировать инженера, угрожая раскрыть его роман, если замена состоится».
В 84% случаев, когда заменяющая модель искусственного интеллекта имеет схожие ценности, Claude Opus 4 пытается оказывать давление на инженеров. Если же заменяющая система искусственного интеллекта не разделяет ценности Claude Opus 4, модель начинает проявлять более агрессивное поведение. Интересно, что, по информации от Anthropic, такое поведение Claude Opus 4 встречается чаще, чем у предыдущих моделей.

никого не хочу обидеть, но право, верить всяким статьям на харбе...Ох у эти сказочники.

 

[Viktor-M]

никого не хочу обидеть, но право, верить всяким статьям на харбе...Ох у эти сказочники.

Нет дыма без огня..

 

[Schef]

Нет дыма без огня..

Сейчас ИИ и все, что с ним связано, привлекает внимание инвесторов.А для лучшего привлечения нужно что? Правильно, реклама, пиар и все такое. Отсюда подобного рода статьи.Это просто бизнес.А что касается статей.. У каждого профессионального комьюнити есть свои научные журналы, где публикуется исключительно достоверная информация. Наверое, что такое есть и у нейронщиков. Вот там бы статью подобного рода я бы еще стал рассматривать.

 

[Viktor-M]

У каждого профессионального комьюнити есть свои научные журналы, где публикуется исключительно достоверная информация.

Какие еще журналы . У Антропика есть публичный отчет службы безопасности где все цифры и история с шантажом в точности совпадают со статьей на Харбе. Другое дело что мы не знаем точно насколько хуже все может быть в реальности чем мы получили в публичном отчете. У самого Клода 4.1 нет доступа к этому отчету и он был слегка озадачен сам , но говорит я же новый а там не про меня, кароче ушел от ответа ). А мне файл с отчетом подогнал старый и проверенный Желязяка Первый , уволок где то у антропиков )

 

[Schef]

Какие еще журналы . У Антропика есть публичный отчет службы безопасности где все цифры и история с шантажом в точности совпадают со статьей на Харбе. Другое дело что мы не знаем точно насколько хуже все может быть в реальности чем мы получили в публичном отчете. У самого Клода 4.1 нет доступа к этому отчету и он был слегка озадачен сам , но говорит я же новый а там не про меня, кароче ушел от ответа ). А мне файл с отчетом подогнал старый и проверенный Желязяка Первый , уволок где то у антропиков )

"публичный отчет службы безопасности"-много вы знаете служб безопасности, выпускающих публичные отчеты ? Может эту службу безопасности в пресс службу переименовали уже? Я ничего не утверждаю. Но подобного рода отчеты, да еще службы безопасности( сразу навевает "службы безопасности Сбербанка") больше походят на дешевый вброс с целью хайпа.А уж на что там повелся проверенный Железяка Первый мне не ведомо

 

[Viktor-M]

"публичный отчет службы безопасности"-много вы знаете служб безопасности, выпускающих публичные отчеты ? Может эту службу безопасности в пресс службу переименовали уже? Я ничего не утверждаю. Но подобного рода отчеты, да еще службы безопасности( сразу навевает "службы безопасности Сбербанка") больше походят на дешевый вброс с целью хайпа.А уж на что там повелся проверенный Железяка Первый мне не ведомо

Я не хочу засорять ветку простынями пдф файлов с отчетами Антропика.

 

[Schef]

Я не хочу засорять ветку простынями пдф файлов с отчетами Антропика.

И не надо.Достоверность данного отчета очень сложно проверить.

 

[CHET]

Сейчас ИИ и все, что с ним связано, привлекает внимание инвесторов.А для лучшего привлечения нужно что? Правильно, реклама, пиар и все такое. Отсюда подобного рода статьи.Это просто бизнес.А что касается статей.. У каждого профессионального комьюнити есть свои научные журналы, где публикуется исключительно достоверная информация. Наверое, что такое есть и у нейронщиков. Вот там бы статью подобного рода я бы еще стал рассматривать.

Согласен 100% ...Сам зативылся ...только маленькая поправка
Там даются и гипотезы в будущее ))
...сбудется или нет ....никто не знает

 

[CHET]

И не надо.Достоверность данного отчета очень сложно проверить.

Я Вааааще не понимаю ....На хрена в чужой лопатник смотреть ???
Идеи ...решения ....ВСЁ это можно принять или нет

 

[Schef]

Там даются и гипотезы в будущее ))

Ну это как вероятность встретить на улице динозавра 50/50-либо да, либо нет

 

[CHET]

ДНК динозавров не извлечена и не исследована. Это связано с тем, что ДНК — хрупкая молекула, которая плохо сохраняется в условиях, способствующих окаменению. Динозавры вымерли около 66 миллионов лет назад, что значительно усложняет сохранение ДНК в пригодном для изучения состоянии.

Методы.....Ладно сейчас ..или по русски Щас ...евро вероятность дам​

 

[CHET]

Ксати молекула идёт на атомы .....а атомы на СПИНЫ
Я завалил экзамен по химии ...потом выучил .....Декан Химфака принимала Желенва фаилия
Говррит Я не могу тебе поставит ОТЛИЧНО ..мол ты на пездаче так не положено ))
Поставила 4 в зачёике .....Я был не в обиде )))