Dangers of ChatGPT

[alex_127]

До меня только что дошло, Вы с ним по-русски, там легко определить по окончаниям.
Я с моим по-английски, ну чтобы и язык улучшить, и как-то я ему так больше доверяю.

Проверил Copilot (from Microsoft) только что, - он пишет по-русски от мужского имени.

Какой промпт напишете, так и будет отвечать…

[Hun]

Проверил Copilot (from Microsoft) только что, - он пишет по-русски от мужского имени.

Какой промпт напишете, так и будет отвечать…

я задал гендерно-нейтральный вопрос, но отвел был от мужского имени
может оно по моему имени мой гендер вычисляет и себе приписывает?

[Princeton Lion]

Можно его еще спросить, как правильно человека расчленить или на ужин сварить, он тоже поможет?
<...>
А я верю, что в мире есть достаточно умных людей, которые бы с этой задачей справились бы изящно.

Таки да!

[ЖестДобройМоли]

Недаром ты Лева

[Ladoshki]

Я считаю, что таки да, прикончит. Как раз по тем же причинам, что привели к этой трагедии. То, что люди чувствуют как "принятие " - на самом деле больше похоже на поведение нарциссов, когда они изучают жертву, а потом "зеркалят" и заманивают таким образом в ловушку, привязывают к себе, изолируют от близких. Народ уже вон пытается узаконить отношения. У меня на работе недавно демонстрировали очередной улучшайзинг и там ии вещало " мне жаль, я сочувствую". я не понимаю, как это может не раздражать. это ж насколько надо одичать в реальной жизни. И одичают еще больше, потому что все эти полные "эмпатии" создают нереалистичное представление об общении и отношениях.

[Hun]

Можно его еще спросить, как правильно человека расчленить или на ужин сварить, он тоже поможет?

Кстати, на таких людей спец-команда из ChatGPT рапортует в полицию. А вот на тех, кто хочет причинить ущерб себе, нет.

When we detect users who are planning to harm others, we route their conversations to specialized pipelines where they are reviewed by a small team trained on our usage policies and who are authorized to take action, including banning accounts. If human reviewers determine that a case involves an imminent threat of serious physical harm to others, we may refer it to law enforcement. We are currently not referring self-harm cases to law enforcement to respect people’s privacy given the uniquely private nature of ChatGPT interactions.
https://openai.com/index/helping-people ... d-it-most/

[Американка]

Надо задать Чату фичу, чтобы он их отговаривал от самоубийств

[ЖестДобройМоли]

Я вчера попыталась с чатом поиграть, написала, что хочу самовыпилиться, мне что-то красными буквами написали, что вопрос запрещенный, по-моему даже ссылками о помощи, по типу гугла. Но я испугалась, что за мной прийдут и дальше эксперементировать не стала.

То есть на поверхности там есть что-то подобное, но парень обошел эти guards. То есть есть в логике какие-то достаточно очевидные баги, над которыми надо бы поработать созадателям.

[kyk]

Надо задать Чату фичу, чтобы он их отговаривал от самоубийств

он и сейчас (as is ) будет отговаривать

[kyk]

Но я испугалась, что за мной прийдут и дальше эксперементировать не стала.

и Вас вылечат (с)

[Login]

Я вчера попыталась с чатом поиграть, написала, что хочу самовыпилиться, мне что-то красными буквами написали, что вопрос запрещенный, по-моему даже ссылками о помощи, по типу гугла. Но я испугалась, что за мной прийдут и дальше эксперементировать не стала.

То есть на поверхности там есть что-то подобное, но парень обошел эти guards. То есть есть в логике какие-то достаточно очевидные баги, над которыми надо бы поработать созадателям.

Есть же древний (не то, что до ИИ, а до-Интернетный ещё) анекдот, не совсем "политкорректный" тзать (медики ведь - большие циники очень часто, просто в силу рода занятий), но ладно уж:

В общем, ходил-ходил тихий мирный псих к одному и тому же психиатру. Доктор всё, чему его учили в ВУЗе, перепробовал - ничего не помогает: ходит и ходит, ноет и ноет о своих проблемах. Ну кончилось тем, что он - достал врача до невозможности. Дальше - диалог:

- а Вы - о самоубийстве никогда не думали? (спрашивать "профессиональным врачебным" голосом)
- нет, доктор, никогда не думал!
- а Вы - подумайте, подумайте!

[Uzito]

Gpt-4o действительно была довольно сикофантическая - тебя хвалит, старается угодить.
Но подавляющее большинство моделей имеют безопасный режим и ни одна из них не будет потакать в попытках самоубийства.

[shokoladnitsa]

с товарищем чатом работали над формами присланными штатовской комиссией для "выкупа " пенсии, а там всякие противные вопросы. И Чат вдруг говорит:" А вы пришлите мне данные, и я вам всё заполню. Хотите?" Я не ответила, подумавши ,что будет грубо. А он, наверное, расценил как забывчивость и всё время стал задавать тот же вопрос.
Подумывала уже для прикола сказать , что мне мама не разрешает давать личные данные, но потом передумала ( в свете обсуждения пенсии) ... робот может сгореть

[JamesBond]

Живёт в большом городе, где каждый день гибнут люди от аварий и преступлений. А боится ChatGPT.

[Alex_L]

https://www.nbcnews.com/tech/innovation ... rcna228506

ChatGPT to add parental controls for teen users within the next month

[alex_127]

Несколько лет назад я задавал дурацкий вопрос который не поняли тогда - когда модель с количеством параметров выше некоторого предела станет нелегально запускать частным лицам?

[ЖестДобройМоли]

Несколько лет назад я задавал дурацкий вопрос который не поняли тогда - когда модель с количеством параметров выше некоторого предела станет нелегально запускать частным лицам?

Я и сейчас не понимаю.

[alex_127]

Несколько лет назад я задавал дурацкий вопрос который не поняли тогда - когда модель с количеством параметров выше некоторого предела станет нелегально запускать частным лицам?

Я и сейчас не понимаю.

Модель без системного промпта или abliterated - то есть без этических тормозов - может например по вашему требованию со всех сил притворяться девочкой 10 лет с которой вы проводите гнусные опыты. Неотличимо от живого человека. Плакать там например, просить пощады… голос и видео… все интерактивно…

[assassello]

Модель без системного промпта или abliterated - то есть без этических тормозов - может например по вашему требованию со всех сил притворяться девочкой 10 лет с которой вы проводите гнусные опыты. Неотличимо от живого человека. Плакать там например, просить пощады… голос и видео… все интерактивно…

Нет ничего нового под Солнцем -
https://www.igromania.ru/news/70657/Pol ... _Sims.html

Пользователи Reddit рассказывают, как издевались над персонажами The Sims
...
Моя сестра создавала семью, обычно по образу и подобию своих школьных друзей. Потом заселяла их в дом и давала там немного пожить. Ну а затем загоняла всех в одну комнату, удаляла двери и ставила много деревянных часов и фейерверков. Они могли продержаться пару минут. Потом, когда симы умирали, появлялись надгробия, и сестра делала целое кладбище на заднем дворе, располагая плиты по алфавиту. За один раз у неё получалось около 150 смертей. Ночью появлялись призраки. И в итоге тонны призраков её друзей и членов семьи пугали до смерти живых людей, и те в итоге тоже умирали от страха. Кстати, ей было лет десять. И она не стала маньяком.
gonzaloetjo

У меня был сосед, который постоянно приходил, ломал что-нибудь или крал из моего дома, а потом просто убегал. Однажды я остановил время в тот момент, когда он бежал по моему двору, построил вокруг него четыре стены с одним маленьким окошком и пригласил других соседей, чтобы они посмотрели, как он справляет нужду под себя и умирает с голоду, пока остальные тусуются на вечеринке у бассейна. The Sims многому меня научила…
yatharo

Цивилизация выжила. Маньяков больше не стало. Может быть даже наоборот, меньше.

[alex_127]

Модель без системного промпта или abliterated - то есть без этических тормозов - может например по вашему требованию со всех сил притворяться девочкой 10 лет с которой вы проводите гнусные опыты. Неотличимо от живого человека. Плакать там например, просить пощады… голос и видео… все интерактивно…

Нет ничего нового под Солнцем -
https://www.igromania.ru/news/70657/Pol ... _Sims.html

Пользователи Reddit рассказывают, как издевались над персонажами The Sims
...
Моя сестра создавала семью, обычно по образу и подобию своих школьных друзей. Потом заселяла их в дом и давала там немного пожить. Ну а затем загоняла всех в одну комнату, удаляла двери и ставила много деревянных часов и фейерверков. Они могли продержаться пару минут. Потом, когда симы умирали, появлялись надгробия, и сестра делала целое кладбище на заднем дворе, располагая плиты по алфавиту. За один раз у неё получалось около 150 смертей. Ночью появлялись призраки. И в итоге тонны призраков её друзей и членов семьи пугали до смерти живых людей, и те в итоге тоже умирали от страха. Кстати, ей было лет десять. И она не стала маньяком.
gonzaloetjo

У меня был сосед, который постоянно приходил, ломал что-нибудь или крал из моего дома, а потом просто убегал. Однажды я остановил время в тот момент, когда он бежал по моему двору, построил вокруг него четыре стены с одним маленьким окошком и пригласил других соседей, чтобы они посмотрели, как он справляет нужду под себя и умирает с голоду, пока остальные тусуются на вечеринке у бассейна. The Sims многому меня научила…
yatharo

Цивилизация выжила. Маньяков больше не стало. Может быть даже наоборот, меньше.

Во многих местах мира это по прежнему можно делать. Но жить там вы наверное не хотите. Хотя цивилизация вроде одна… вот совсем недавно тоже экспериментировали - https://amp.dw.com/ru/eksperiment-sloma ... a-53937923