По поводу AI и его субъектности

[Irena]

Мне многие вопросы AI помогает подтвердить, когда я и сама знаю, но не уверена, линки полезные дает. Но когда сложный узкоспециальный вопрос задаешь, по которому мало информации в сети, то иногда полную чушь гонит, не из той оперы совсем, а то, что смог найти. Причем уверенным и бескомпромиссным тоном. Чуть меняешь слова, просто спрашиваешь другими словами то же самое, дает совершенно другой ответ, иногда противоположный предыдущему. Почему прямо не говорит, что не знает, не хватает информации? Короче, учиться ему еще и учиться до того, чтобы можно было верить его ответам.

[alex_127]

Мне многие вопросы AI помогает подтвердить, когда я и сама знаю, но не уверена, линки полезные дает. Но когда сложный узкоспециальный вопрос задаешь, по которому мало информации в сети, то иногда полную чушь гонит, не из той оперы совсем, а то, что смог найти. Причем уверенным и бескомпромиссным тоном. Чуть меняешь слова, просто спрашиваешь другими словами то же самое, дает совершенно другой ответ, иногда противоположный предыдущему. Почему прямо не говорит, что не знает, не хватает информации? Короче, учиться ему еще и учиться до того, чтобы можно было верить его ответам.

А вы его спросите, он вам объяснит. Почему вы нас об этом спрашиваете? Это просто инструмент, его надо правильно использовать. Для этого для начала нужно потратить пару сотен часов учась а не бездумно тыкаясь.

[Американка]

Kстати, вашу субьективность ваши домашние роботы будут подхватывать и использовать, чтобы вас ублажать, холить и нежить

Вы так говорите как будто в этом есть что то плохое (с)

Наборот, хорошо же

[Uzito]

Почему прямо не говорит, что не знает, не хватает информации?

Потому что модели тренируются чтобы всегда давать ответ.
Модель не имеет понятия есть ли у нее информация или нет - это машинка которая генерирует случайную последовательность символов и всё. Тип случайности зависит от того что в нее запихивали во время тренировки и от вашего запроса.

[alex_127]

Почему прямо не говорит, что не знает, не хватает информации?

Потому что модели тренируются чтобы всегда давать ответ.
Модель не имеет понятия есть ли у нее информация или нет - это машинка которая генерирует случайную последовательность символов и всё. Тип случайности зависит от того что в нее запихивали во время тренировки и от вашего запроса.

Как люди, тот же принцип. Что запихнули.

[ofni]

Analyst I прекрасно заменяют. Я как раз над таким кейсом работаю.

выводы нечеловеческие?

[Mad Hatter]

Analyst I прекрасно заменяют. Я как раз над таким кейсом работаю.

выводы нечеловеческие?

В смысле?

[alex_127]

Analyst I прекрасно заменяют. Я как раз над таким кейсом работаю.

выводы нечеловеческие?

Человеческие выводы - это руки и ноги. Это если ток подключать.

[Uzito]

Как люди, тот же принцип. Что запихнули.

Человек может сказать "я не знаю" или не отвечать если ему сказали "помолчи". LLM это сделать не может.

[alex_127]

Как люди, тот же принцип. Что запихнули.

Человек может сказать "я не знаю" или не отвечать если ему сказали "помолчи". LLM это сделать не может.

Может. Еще как. И спорит, и возражает и требует пояснений.то что вы чем то пользоваться не умеете это не его ограничение.

Как шутку но правда моя жена довела копайлот до того что он сказал «уже 9:40 вечера, может хватит и завтра продолжим?»

Вы возможно путаете публично доступные выхолощенные вещи с технологией. Потому что стоило бы ChatGPT кому-то сказать - «судя по всему ты мудак полный» так тут был бы и суд. А мудаков хватает.

[Torma]

И да, не путайте, пож-та субъективность с субъектностью:
"Субъективность — это способность человека воспринимать и оценивать мир через призму личного опыта, эмоций, убеждений и желаний. Это индивидуальный взгляд на вещи, который может отличаться от реальности.
Субъектность — это способность человека быть полноценным автором своей жизни, самостоятельно принимать решения, ставить цели и активно действовать, преодолевая обстоятельства "
Субъектом может быть не только отдельный человек, но и "Субъект в философском понимании как активный носитель сознания, познания и целенаправленной деятельности, который познает окружающий мир или воздействует на него. "
Собственно об этом и тема в отношении AI

[alex_127]

И да, не путайте, пож-та субъективность с субъектностью:
"Субъективность — это способность человека воспринимать и оценивать мир через призму личного опыта, эмоций, убеждений и желаний. Это индивидуальный взгляд на вещи, который может отличаться от реальности.
Субъектность — это способность человека быть полноценным автором своей жизни, самостоятельно принимать решения, ставить цели и активно действовать, преодолевая обстоятельства "
Субъектом может быть не только отдельный человек, но и "Субъект в философском понимании как активный носитель сознания, познания и целенаправленной деятельности, который познает окружающий мир или воздействует на него. "
Собственно об этом и тема в отношении AI

Вот, плавно подходим к тезаурусу.

[Torma]

И да, не путайте, пож-та субъективность с субъектностью:
"Субъективность — это способность человека воспринимать и оценивать мир через призму личного опыта, эмоций, убеждений и желаний. Это индивидуальный взгляд на вещи, который может отличаться от реальности.
Субъектность — это способность человека быть полноценным автором своей жизни, самостоятельно принимать решения, ставить цели и активно действовать, преодолевая обстоятельства "
Субъектом может быть не только отдельный человек, но и "Субъект в философском понимании как активный носитель сознания, познания и целенаправленной деятельности, который познает окружающий мир или воздействует на него. "
Собственно об этом и тема в отношении AI

Вот, плавно подходим к тезаурусу.

Дааа?.. А я то думала, что вам он не нужен, без него осведомлены. Пардон, ошиблась. Тогда начинайте отсюда.
А тема была обозначена ясно: "По поводу AI и его субъектности"

[ofni]

...
Как шутку но правда моя жена довела копайлот до того что он сказал «уже 9:40 вечера, может хватит и завтра продолжим?»
...

вы не думаете, что это не "жена довела", а может быть просто алгоритм на этот случай есть?

[alex_127]

...
Как шутку но правда моя жена довела копайлот до того что он сказал «уже 9:40 вечера, может хватит и завтра продолжим?»
...

вы не думаете, что это не "жена довела", а может быть просто алгоритм на этот случай есть?

Где бы он был и сидел? Ну вот чисто физически…

[alex_127]

Вот, плавно подходим к тезаурусу.

Дааа?.. А я то думала, что вам он не нужен, без него осведомлены. Пардон, ошиблась. Тогда начинайте отсюда.
А тема была обозначена ясно: "По поводу AI и его субъектности"

Вы может субъектность понимаете хорошо, а Аи плохо. Что это такое вообще? Как например модель-трансформер без постоянной памяти может иметь субьектность?

Вот вам пример - я стою за человеком и каждые 10 секунд бью его по голове лопатой и у него амнезия. Может ли он вам продемонстрировать субъектность?

Поэтому с терминами и проблема…
А так я изначально и полно ответил вам на первой странице « В будущем - никак.»

Ну а остальное было переливанием пустоты из сосуда в сосуд.

[Mad Hatter]

Как люди, тот же принцип. Что запихнули.

Человек может сказать "я не знаю" или не отвечать если ему сказали "помолчи". LLM это сделать не может.

Кстати способность сказать "я не знаю" приходит с опытом
И вы обманули, ещё как может. Вот что ответил ChatGPT на вопрос "когда инопланетяне посетили Землю?"

So the honest answer is: we do not know of any confirmed alien visit to Earth. If it happened, there is currently no reliable proof accepted by mainstream science.

Абсолютно корректный ответ.

[Irena]

Мне многие вопросы AI помогает подтвердить, когда я и сама знаю, но не уверена, линки полезные дает. Но когда сложный узкоспециальный вопрос задаешь, по которому мало информации в сети, то иногда полную чушь гонит, не из той оперы совсем, а то, что смог найти. Причем уверенным и бескомпромиссным тоном. Чуть меняешь слова, просто спрашиваешь другими словами то же самое, дает совершенно другой ответ, иногда противоположный предыдущему. Почему прямо не говорит, что не знает, не хватает информации? Короче, учиться ему еще и учиться до того, чтобы можно было верить его ответам.

А вы его спросите, он вам объяснит. Почему вы нас об этом спрашиваете? Это просто инструмент, его надо правильно использовать. Для этого для начала нужно потратить пару сотен часов учась а не бездумно тыкаясь.

Ваш глупый менторский тон забавен. Вы даже не дали себе труда понять, что я именно использую AI как инструмент, и именно по тем вопросам, в которых у меня, как оказалось, намного больше часов экспириенса и знаний, чем у него, который именно "тыкается". Идите вы лесом, надоели со своим надуванием щек до чертиков.

[Irena]

Потому что модели тренируются чтобы всегда давать ответ.
Модель не имеет понятия есть ли у нее информация или нет - это машинка которая генерирует случайную последовательность символов и всё. Тип случайности зависит от того что в нее запихивали во время тренировки и от вашего запроса.

Как люди, тот же принцип. Что запихнули.

Это да. Идиот никогда не скажет "я не знаю".

[self]

Сегодня полдня вместе с Клодом писали запрос к BB REST API. Не вышел каменный цветок. Пришлось свой лобзик доставать