alex_127 писал(а): ↑Чт янв 01, 2026 3:50 am
Даже ллм - это не справочник. Из-за emergent behaviors.
Хотя все что они есть собой это как обучение ребенка жизни заставляя повторять куски энциклопедии. (Про статистику текста это херня, там ничего от статистики не остается - это попытка назвать что то что не понимаешь знакомым термином) . От многих слышал - да ну нах, все что эта хрень делает это угадать следующее слово. На самом деле сложнее - во первых это вектор вероятностей из которого нам дают одну, во вторых это задача - вот тебе слово[63773838992] = «быть», скажи мне слово слово[63773838993].
Про задачи и прочее - давайте так. Мне нужны инструменты для выполнения задач. Этими инструментами могут выступать как люди так и ИИ в различных видах.
Если я знаю как должен выглядеть результат я могу его оценить и послать «в топку! Переделывай» и неважно кто его достиг.
Кстати, как насчет ввести закон чтобы у ИИ обязательно были «критические дни» лунного месяца?
Чтобы можно спокойно мыло сказать - она сегодня не в духе.
Под "угадывает" все понимают именно то что вы сказали - выбор оптимального вектора вероятностей. И да это все и называется угадывает. Потому что угадывание всегда происходит на основе имеющейся информации. Если информации нет совсем, ну тогда равномерное распределение вероятности. А если есть хотя б диапазон или какие-то данные то угадывание это уже оптимизация вектора вероятности.
И это хорошо работатет когда ситуация довольно определенная. А когда есть большая доля неопределенности появляются галлюцинации.
С галлюцинациями было б хорошо если б они были только в критические дни, а то они на ровном месте могут быть посреди ясного неба
. Скажем каждый водитель знает что когда устал, то вероятность аварии возрастает. А ИИ никогда не устал, но может солнце блеснуть и он может не понять что пред ним и сделает неправильное решение.
Следущая проблема морально-юридическая. Теперь если человек например наехал на прохожего , то он за это отвчает. А если ИИ то не понятно. Если производитель отвечает, то все ИИ водители сразу будут забанены, при первом инциденте от галлюцинаций, если поступать как это было до сих пор для всех индустрий (рекол). Но есть подозрение что теперь вы можите попасть в статистику галлюцинаций и спросить не с кого. И как бы если человек убит или изувечен то никакими деньгами это нельзя компенсиривать.
И да, я тоже применяю ИИ если результат меня устраивает. А если не устраивает то нанимаю человека, или делаю сама (может использую традиционную автоматизацию)
И да чертов ИИ не справочник и в этом тоже проблема. Вот например. Слушала тут пропагандонов от ИИ. Они рисовали радужную картину и тп, нападали на критиков... В частности. Вот сказали что да датацентры жрут энергию, но мы атомную электростанцию построим. А то что воду жрут это вранье наших безграмотных критиков. Ну я как бы знаю что в атомной индустрии есть использование воды для охлаждения. ДЦ тоже могут использовать воду для охлаждения, перегрев вроде как проблемка. Но я не знаю сколько они используют воды. Гуглю. И ИИ гугля мне отвечает что да используют дохера воды, один ДЦ как небольшой город. Ну вот вы говорите что вы специалист по ДЦ, ну кому верить?
С другой стороны, да, если интерфейс ИИ подсоединить к справочнику с поисковиком, то мне б это понравилось. Если я не очень разбираюсь в проблеме, я б могла ее сформулировать ИИ и оно б нашло мне все достойные внимания случаи где это обсуждается.
Но народ жалуется что даже саммари ИИ часто дает не корректный. Да, я замечала, но если идти к первоисточникам то не страшно.
