По поводу AI и его субъектности

[alex_127]

Я не совсем понимаю вопрос тогда. Если вы о субъектности как о индивидуальности так у самого гребаного ИИ его больше чем у 90% населения. Все же зависит от того что и как считать. Все мы - как миллиарды снежинок - уникальны в своей неповторимости которая вкривь и вкось результат мутаций, различного воспитания, решений принятых внезапно на перепутье. Не путать с ИИ который миллиарды раз током бьют пока правильно отвечать не начнет!

Последнее предложение не совсем поняла, но ладно.
Как раз индивидуальность есть у каждого человека, а вот субъектность может и отсутствовать. Вопрос в том, до какой степени человек может отдавать решения на откуп ИИ, наделяя его субъектностью. Что-то у меня закралось подозрение, что это уже происходит и не по мелочам. Такова уж природа человека: стараться достигать своих целей как можно быстрее, легко, с выгодой и если что, то не нести ответственности.

Таков путь прогресса. Бездушные машины заменили лошадей которые думали перед тем как им говорили что-то делать. Проблема субъектностью в том что она переоценена - ну просто потому что больше ничего особо не осталось.
В шахматы не выиграешь, в автогонках не победишь, приходиться уповать на существование души и глобальную разницу. С проституцией кстати будет прикольно.

[Uzito]

Не вижу никакого отката. Нам наоборот дали в зубы разные тулзы и сказали за год продемонстрировать эффективность.
Вы не забывайте что LLM - это даже не про программирование. На самом деле дофига работы где надо что-то прочесть и дать выжимку, или произвести действие, кнопку нужную нажать, а чёткие правила сделать трудно. Вот AI с этим неплохо справляется.

То что вам поставили требование тратить токены не значит что это правильный подход.
Эвристические алгоритмы в fuzzy logic существовали двадцать лет назад без LLM.

[Torma]

Последнее предложение не совсем поняла, но ладно.
Как раз индивидуальность есть у каждого человека, а вот субъектность может и отсутствовать. Вопрос в том, до какой степени человек может отдавать решения на откуп ИИ, наделяя его субъектностью. Что-то у меня закралось подозрение, что это уже происходит и не по мелочам. Такова уж природа человека: стараться достигать своих целей как можно быстрее, легко, с выгодой и если что, то не нести ответственности.

Таков путь прогресса. Бездушные машины заменили лошадей которые думали перед тем как им говорили что-то делать. Проблема субъектностью в том что она переоценена - ну просто потому что больше ничего особо не осталось.
В шахматы не выиграешь, в автогонках не победишь, приходиться уповать на существование души и глобальную разницу. С проституцией кстати будет прикольно.

Как по мне, т.н. называемый прогресс уже в тупик заводит. Всё это ускорение, спешка, прогрессирование куда-то... куда? нет времени остановиться и подумать. Уже ИИ за тебя навязчиво думает, предлагает и принимает решения. Субъектность можно хотя бы проявить в провеоке инфо, принятии решений и с оглядкой прислушиваться к сладкому навязчивому голосу; нести ответственность за решения. И уж точно не "одушевлять" нечто виртуальное. А то оно тебя раздушевит

[alex_127]

Таков путь прогресса. Бездушные машины заменили лошадей которые думали перед тем как им говорили что-то делать. Проблема субъектностью в том что она переоценена - ну просто потому что больше ничего особо не осталось.
В шахматы не выиграешь, в автогонках не победишь, приходиться уповать на существование души и глобальную разницу. С проституцией кстати будет прикольно.

Как по мне, т.н. называемый прогресс уже в тупик заводит. Всё это ускорение, спешка, прогрессирование куда-то... куда? нет времени остановиться и подумать. Уже ИИ за тебя навязчиво думает, предлагает и принимает решения. Субъектность можно хотя бы проявить в провеоке инфо, принятии решений и с оглядкой прислушиваться к сладкому навязчивому голосу; нести ответственность за решения. И уж точно не "одушевлять" нечто виртуальное. А то оно тебя раздушевит

А в чем вопрос собственно? Вот лифтеров заменили. А они тоже решения принимали, но вы как-то привыкли…

[Torma]

Как по мне, т.н. называемый прогресс уже в тупик заводит. Всё это ускорение, спешка, прогрессирование куда-то... куда? нет времени остановиться и подумать. Уже ИИ за тебя навязчиво думает, предлагает и принимает решения. Субъектность можно хотя бы проявить в провеоке инфо, принятии решений и с оглядкой прислушиваться к сладкому навязчивому голосу; нести ответственность за решения. И уж точно не "одушевлять" нечто виртуальное. А то оно тебя раздушевит

А в чем вопрос собственно? Вот лифтеров заменили. А они тоже решения принимали, но вы как-то привыкли…

Можно, конечно, и к такому уровню обобщений прийти. Масштабы нонче не те и технологии вышли на другой уровень

[alex_127]

А в чем вопрос собственно? Вот лифтеров заменили. А они тоже решения принимали, но вы как-то привыкли…

Можно, конечно, и к такому уровню обобщений прийти. Масштабы нонче не те и технологии вышли на другой уровень

Это вы так думаете, когда пачки народу из оракла/меты увольняют - они так не думают. Вы их спрашивалили?

[WebFunk]

Пелевинский SNUFF вспоминается всвязи с этим. Все становится реальностью.

[alex_127]

Пелевинский SNUFF вспоминается всвязи с этим. Все становится реальностью.

Snuff дурацкий. Нет ни у кого никакого контроля. В видео все прикольно (смотрел первые 10 секунд), а потом всем его родственникам и друзьям такое будет. До 7 колена, как хотели…

[Mad Hatter]

Не вижу никакого отката. Нам наоборот дали в зубы разные тулзы и сказали за год продемонстрировать эффективность.
Вы не забывайте что LLM - это даже не про программирование. На самом деле дофига работы где надо что-то прочесть и дать выжимку, или произвести действие, кнопку нужную нажать, а чёткие правила сделать трудно. Вот AI с этим неплохо справляется.

То что вам поставили требование тратить токены не значит что это правильный подход.
Эвристические алгоритмы в fuzzy logic существовали двадцать лет назад без LLM.

О, еще один искперд
Эти алгоритмы тест Тьюринга проходили? Вы прекрасно знаете что нет

[Uzito]

То что вам поставили требование тратить токены не значит что это правильный подход.
Эвристические алгоритмы в fuzzy logic существовали двадцать лет назад без LLM.

О, еще один искперд
Эти алгоритмы тест Тьюринга проходили? Вы прекрасно знаете что нет

И что? Давать ИИ решать задачи без чётких правил и потом "нажимать кнопку" без человека в качестве последней инстанции это просто безумие.

[Uzito]

Вы думаете Антропик даст рефанд?

https://github.com/anthropics/claude-code/issues/53262

[Uzito]

[Mad Hatter]

О, еще один искперд
Эти алгоритмы тест Тьюринга проходили? Вы прекрасно знаете что нет

И что? Давать ИИ решать задачи без чётких правил и потом "нажимать кнопку" без человека в качестве последней инстанции это просто безумие.

Вы путаете технический и юридические аспекты. Люди бывает такое делают, что возникает впечатление что у них как у медуз мозга нет.

[Uzito]

И что? Давать ИИ решать задачи без чётких правил и потом "нажимать кнопку" без человека в качестве последней инстанции это просто безумие.

Вы путаете технический и юридические аспекты. Люди бывает такое делают, что возникает впечатление что у них как у медуз мозга нет.

Юридический аспект это вообще другой вопрос.

[Mad Hatter]

Вы путаете технический и юридические аспекты. Люди бывает такое делают, что возникает впечатление что у них как у медуз мозга нет.

Юридический аспект это вообще другой вопрос.

А зачем вы его приплели?
Вот к примеру диагностика рака на рентгене или mri сейчас AI делает не хуже, а то и лучше чем человек. Один человек даже создал бесплатный сервис где люди могут сабмитить свои сканы и получать диагноз (у него близкий человек умер от рака из-за поздней диагностики).
А это вопрос жизни и смерти без преувеличения. Куда уж серьёзнее.

[Uzito]

Юридический аспект это вообще другой вопрос.

А зачем вы его приплели?

Вы о чём?

под безумием я имел то, что сейчас делают 99% людей внедряющих Agentic AI. Уж сколько историй про то что агенг удалил все бэкапы/запустил пять тыщ серверов на AWS и получил счет на миллионы/раздал 100% скидки на покупки и т.д.

[Mad Hatter]

А зачем вы его приплели?

Вы о чём?

под безумием я имел то, что сейчас делают 99% людей внедряющих Agentic AI. Уж сколько историй про то что агенг удалил все бэкапы/запустил пять тыщ серверов на AWS и получил счет на миллионы/раздал 100% скидки на покупки и т.д.

Потому что не надо бросаться в крайности, а именно такие попадают в новости.

[FelisSilvestris]

То что вам поставили требование тратить токены не значит что это правильный подход.
Эвристические алгоритмы в fuzzy logic существовали двадцать лет назад без LLM.

О, еще один искперд
Эти алгоритмы тест Тьюринга проходили? Вы прекрасно знаете что нет

ОМГ.... Любой нормальный математик вам скажет что тест Тюринга это шутка. Да, конечно можно имитировать человека так что можно принять за правду. Это никакой не неучный тест на АГИ. Хотя даже сейчас долгое общение с ИИ выдает ИИ. Ну раньше понимали с первых слов, теперь после часа общения

Да, машины легко заменяют конвеерный труд. Это хорошо. Человек в конечном итоге решающее звено. Он должен знать как именно и почему он получил данный результат от машины. То что машина никогда не ошибалась и теперь наверное не ошиблась, это не достаточно. Человек должен быть согласен с выводом. Если он задал перебор результатов в его пространстве параметров и машина выдала ответ, он удовлетворен. Может быть нет такой мощности чтоб их перебрать, тогда человек должен осознавать что результат не точен и с в какой степени неточен. Ну там в каких перделах ошибки не дошли до глобального минимума потенциала например. Человек решает исходя из своей воли насколько можно применять результат.

У машины нет воли, она ничего не хочет, она просто считает.

И тут второй вопрос. Нам пытаются втюхать идею что о грандиозности (или субъекности) этой машины, чтоб протащить волю меньшинства в обход демократии. Этакая отмазка типа суперинтеллект так сказал, а он лучше знает.

Собственно я из программирования бежала роняя тапки еще в 2000х, когда поняла что там грядет конвеерный труд. Не знаю, не могу точно сказать насколько злые языки правы что конвеерный труд сделал софт более ненадежным ... Но конвеерный труд может и должен заменятся ИИ. Опять же не знаю насколько хорошо, похоже это пока приводит к еще большему ухудшению качества.

[Mad Hatter]

О, еще один искперд
Эти алгоритмы тест Тьюринга проходили? Вы прекрасно знаете что нет

ОМГ.... Любой нормальный математик вам скажет что тест Тюринга это шутка. Да, конечно можно имитировать человека так что можно принять за правду. Это никакой не неучный тест на АГИ. Хотя даже сейчас долгое общение с ИИ выдает ИИ. Ну раньше понимали с первых слов, теперь после часа общения

Да, машины легко заменяют конвеерный труд. Это хорошо. Человек в конечном итоге решающее звено. Он должен знать как именно и почему он получил данный результат от машины. То что машина никогда не ошибалась и теперь наверное не ошиблась, это не достаточно. Человек должен быть согласен с выводом. Если он задал перебор результатов в его пространстве параметров и машина выдала ответ, он удовлетворен. Может быть нет такой мощности чтоб их перебрать, тогда человек должен осознавать что результат не точен и с в какой степени неточен. Ну там в каких перделах ошибки не дошли до глобального минимума потенциала например. Человек решает исходя из своей воли насколько можно применять результат.

У машины нет воли, она ничего не хочет, она просто считает.

И тут второй вопрос. Нам пытаются втюхать идею что о грандиозности (или субъекности) этой машины, чтоб протащить волю меньшинства в обход демократии. Этакая отмазка типа суперинтеллект так сказал, а он лучше знает.

Собственно я из программирования бежала роняя тапки еще в 2000х, когда поняла что там грядет конвеерный труд. Не знаю, не могу точно сказать насколько злые языки правы что конвеерный труд сделал софт более ненадежным ... Но конвеерный труд может и должен заменятся ИИ. Опять же не знаю насколько хорошо, похоже это пока приводит к еще большему ухудшению качества.

И? Я сам профессиональным программированием уже 20 лет не занимаюсь. Пишу иногда крохи на Питоне, чисто midleware, которое само по себе мало что делает.

[Torma]

О, еще один искперд
Эти алгоритмы тест Тьюринга проходили? Вы прекрасно знаете что нет

ОМГ.... Любой нормальный математик вам скажет что тест Тюринга это шутка. Да, конечно можно имитировать человека так что можно принять за правду. Это никакой не неучный тест на АГИ. Хотя даже сейчас долгое общение с ИИ выдает ИИ. Ну раньше понимали с первых слов, теперь после часа общения

Да, машины легко заменяют конвеерный труд. Это хорошо. Человек в конечном итоге решающее звено. Он должен знать как именно и почему он получил данный результат от машины. То что машина никогда не ошибалась и теперь наверное не ошиблась, это не достаточно. Человек должен быть согласен с выводом. Если он задал перебор результатов в его пространстве параметров и машина выдала ответ, он удовлетворен. Может быть нет такой мощности чтоб их перебрать, тогда человек должен осознавать что результат не точен и с в какой степени неточен. Ну там в каких перделах ошибки не дошли до глобального минимума потенциала например. Человек решает исходя из своей воли насколько можно применять результат.

У машины нет воли, она ничего не хочет, она просто считает.

И тут второй вопрос. Нам пытаются втюхать идею что о грандиозности (или субъекности) этой машины, чтоб протащить волю меньшинства в обход демократии. Этакая отмазка типа суперинтеллект так сказал, а он лучше знает.

Собственно я из программирования бежала роняя тапки еще в 2000х, когда поняла что там грядет конвеерный труд. Не знаю, не могу точно сказать насколько злые языки правы что конвеерный труд сделал софт более ненадежным ... Но конвеерный труд может и должен заменятся ИИ. Опять же не знаю насколько хорошо, похоже это пока приводит к еще большему ухудшению качества.

Вот-вот, и я про то: дело не в конвейром труде, где ии хороший заменитель, а в "грандиозности", правда, не в том, чтоб дела делать "в обход демократии" (кстати, что она ваще такое в современном мире, я перестала понимать, но не будем об этом), а в том, что, с моей точки зрения, в силу своей природы, человек, ответственные за принятие самых разных решений группы, начнут полагаться именно на "компетентность" ии как субъекта. В том числе стремясь избегать личной ответственности за принятые решения, а ии, скорее всего научится управлять такими группами (людьми) сам. По-моему, первые шаги сделаны