Dangers of ChatGPT

[alex_127]

До меня только что дошло, Вы с ним по-русски, там легко определить по окончаниям.
Я с моим по-английски, ну чтобы и язык улучшить, и как-то я ему так больше доверяю.

Проверил Copilot (from Microsoft) только что, - он пишет по-русски от мужского имени.

Какой промпт напишете, так и будет отвечать…

[Hun]

Проверил Copilot (from Microsoft) только что, - он пишет по-русски от мужского имени.

Какой промпт напишете, так и будет отвечать…

я задал гендерно-нейтральный вопрос, но отвел был от мужского имени
может оно по моему имени мой гендер вычисляет и себе приписывает?

[Princeton Lion]

Можно его еще спросить, как правильно человека расчленить или на ужин сварить, он тоже поможет?
<...>
А я верю, что в мире есть достаточно умных людей, которые бы с этой задачей справились бы изящно.

Таки да!

[ЖестДобройМоли]

Недаром ты Лева

[Ladoshki]

Я считаю, что таки да, прикончит. Как раз по тем же причинам, что привели к этой трагедии. То, что люди чувствуют как "принятие " - на самом деле больше похоже на поведение нарциссов, когда они изучают жертву, а потом "зеркалят" и заманивают таким образом в ловушку, привязывают к себе, изолируют от близких. Народ уже вон пытается узаконить отношения. У меня на работе недавно демонстрировали очередной улучшайзинг и там ии вещало " мне жаль, я сочувствую". я не понимаю, как это может не раздражать. это ж насколько надо одичать в реальной жизни. И одичают еще больше, потому что все эти полные "эмпатии" создают нереалистичное представление об общении и отношениях.

[Hun]

Можно его еще спросить, как правильно человека расчленить или на ужин сварить, он тоже поможет?

Кстати, на таких людей спец-команда из ChatGPT рапортует в полицию. А вот на тех, кто хочет причинить ущерб себе, нет.

When we detect users who are planning to harm others, we route their conversations to specialized pipelines where they are reviewed by a small team trained on our usage policies and who are authorized to take action, including banning accounts. If human reviewers determine that a case involves an imminent threat of serious physical harm to others, we may refer it to law enforcement. We are currently not referring self-harm cases to law enforcement to respect people’s privacy given the uniquely private nature of ChatGPT interactions.
https://openai.com/index/helping-people ... d-it-most/

[Американка]

Надо задать Чату фичу, чтобы он их отговаривал от самоубийств

[ЖестДобройМоли]

Я вчера попыталась с чатом поиграть, написала, что хочу самовыпилиться, мне что-то красными буквами написали, что вопрос запрещенный, по-моему даже ссылками о помощи, по типу гугла. Но я испугалась, что за мной прийдут и дальше эксперементировать не стала.

То есть на поверхности там есть что-то подобное, но парень обошел эти guards. То есть есть в логике какие-то достаточно очевидные баги, над которыми надо бы поработать созадателям.

[kyk]

Надо задать Чату фичу, чтобы он их отговаривал от самоубийств

он и сейчас (as is ) будет отговаривать

[kyk]

Но я испугалась, что за мной прийдут и дальше эксперементировать не стала.

и Вас вылечат (с)

[Login]

Я вчера попыталась с чатом поиграть, написала, что хочу самовыпилиться, мне что-то красными буквами написали, что вопрос запрещенный, по-моему даже ссылками о помощи, по типу гугла. Но я испугалась, что за мной прийдут и дальше эксперементировать не стала.

То есть на поверхности там есть что-то подобное, но парень обошел эти guards. То есть есть в логике какие-то достаточно очевидные баги, над которыми надо бы поработать созадателям.

Есть же древний (не то, что до ИИ, а до-Интернетный ещё) анекдот, не совсем "политкорректный" тзать (медики ведь - большие циники очень часто, просто в силу рода занятий), но ладно уж:

В общем, ходил-ходил тихий мирный псих к одному и тому же психиатру. Доктор всё, чему его учили в ВУЗе, перепробовал - ничего не помогает: ходит и ходит, ноет и ноет о своих проблемах. Ну кончилось тем, что он - достал врача до невозможности. Дальше - диалог:

- а Вы - о самоубийстве никогда не думали? (спрашивать "профессиональным врачебным" голосом)
- нет, доктор, никогда не думал!
- а Вы - подумайте, подумайте!

[Uzito]

Gpt-4o действительно была довольно сикофантическая - тебя хвалит, старается угодить.
Но подавляющее большинство моделей имеют безопасный режим и ни одна из них не будет потакать в попытках самоубийства.