ИИ - проблемы и перспективы

Ответить
Аватара пользователя
Torma
Reactions: 459
Сообщения: 2104
Зарегистрирован: Вс июл 10, 2022 11:57 am

Re: ИИ - проблемы и перспективы

Сообщение Torma »

alex_127 писал(а): Ср янв 07, 2026 9:43 pm
mikeG писал(а): Ср янв 07, 2026 7:21 pm

Это еще в 60-х думали (как и про постройку коммунизма).
За 60 лет не сильно приблизились.
жалко что коммунизма не построили - почему-то все всегда скатывалось в жопу. ничего придет ИИ - будет всем коммунизм. От каждого по возможности, каждому по необходимой потребности (определенной неподкупным ИИ)
Угу. Учитывая антропологию человека, вполне можно предположить, что может наступить ИИ-шный коммунизм при разделении общества на тех, кто с попкорном и базовым доходом будет превращаться в этакого полностью удовлетворённого и контролируемого профессора Выбегалло, и ту малую группу, которая сделает выбор в пользу человечности и будет использовать технологию ИИ для ... удовлетворения своих потребностей.
Так уж мы люди устроены.
Дурак думает о тактике, а умный о логистике
alex_127
Reactions: 3091
Сообщения: 13419
Зарегистрирован: Ср июн 15, 2022 9:44 am

Re: ИИ - проблемы и перспективы

Сообщение alex_127 »

Torma писал(а): Чт янв 08, 2026 4:22 am
alex_127 писал(а): Ср янв 07, 2026 9:43 pm

жалко что коммунизма не построили - почему-то все всегда скатывалось в жопу. ничего придет ИИ - будет всем коммунизм. От каждого по возможности, каждому по необходимой потребности (определенной неподкупным ИИ)
Угу. Учитывая антропологию человека, вполне можно предположить, что может наступить ИИ-шный коммунизм при разделении общества на тех, кто с попкорном и базовым доходом будет превращаться в этакого полностью удовлетворённого и контролируемого профессора Выбегалло, и ту малую группу, которая сделает выбор в пользу человечности и будет использовать технологию ИИ для ... удовлетворения своих потребностей.
Так уж мы люди устроены.
Вот вам утренние приветствия прекрасного далеко:
- Удовлетворен, сосед?
- Полностью удовлетворен!

Только плоды выбегалло, он сам и вредный и не удовлетворенный.
Машу Кастлом не испортишь!
Аватара пользователя
Torma
Reactions: 459
Сообщения: 2104
Зарегистрирован: Вс июл 10, 2022 11:57 am

Re: ИИ - проблемы и перспективы

Сообщение Torma »

alex_127 писал(а): Чт янв 08, 2026 5:42 am
Torma писал(а): Чт янв 08, 2026 4:22 am
Угу. Учитывая антропологию человека, вполне можно предположить, что может наступить ИИ-шный коммунизм при разделении общества на тех, кто с попкорном и базовым доходом будет превращаться в этакого полностью удовлетворённого и контролируемого профессора Выбегалло, и ту малую группу, которая сделает выбор в пользу человечности и будет использовать технологию ИИ для ... удовлетворения своих потребностей.
Так уж мы люди устроены.
Вот вам утренние приветствия прекрасного далеко:
- Удовлетворен, сосед?
- Полностью удовлетворен!

Только плоды выбегалло, он сам и вредный и не удовлетворенный.
Верно Амвросий выводил кадавра удовлетворённого желудочно, который потреблял селёдочные головы :D Нужно было написать "полностью удовлетворённого кадавра профессора Выбегалло"
Дурак думает о тактике, а умный о логистике
FelisSilvestris
Reactions: 1109
Сообщения: 3915
Зарегистрирован: Сб сен 10, 2022 6:28 pm
Откуда: California

Re: ИИ - проблемы и перспективы

Сообщение FelisSilvestris »

Да, кстати Стругацкие всеж появление AGI или ASI предстазали наиболее верно:
— Вот, извольте видеть, так называемая эвристическая машина, — сказал старичок. — Точный электронно-механический прибор для отвечания на любые вопросы, а именно — на научные и хозяйственные. Как она у меня работает? Не имея достаточно средств и будучи отфутболиваем различными бюрократами, она у меня пока не полностью автоматизирована. Вопросы задаются устным образом, и я их печатаю и ввожу таким образом к ей внутрь, довожу, так сказать, до ейного сведения. Отвечание ейное, опять через неполную автоматизацию, печатаю снова я. В некотором роде посредник, хе-хе! Так что, ежели угодно, прошу.
Он встал за машинку и шикарным жестом перекинул тумблер. В недрах машинки загорелась неоновая лампочка.
— Прошу вас, — повторил старичок.
— А что это там у вас за лампа? — подозрительно спросил Фарфуркис.
Старичок ударил по клавишам, потом быстро вырвал из машинки листок бумаги и рысцой поднес его Фарфуркису. Фарфуркис прочитал вслух:
— «Вопрос: что у нея… гм… у нея внутре за лпч?» <…> Что ещё за лэпэчэ?
— Лампочка, значит, — сказал старичок, хихикая и потирая руки. — Кодируем помаленьку. — Он вырвал у Фарфуркиса листок и побежал обратно к своей машинке. — Это, значит, был вопрос, — произнёс он, загоняя листок под валик. — А сейчас посмотрим, что она ответит…
Члены Тройки с интересом следили за его действиями. Профессор Выбегалло благодушно-отечески сиял, изысканными и плавными движениями пальцев выбирая из бороды какой-то мусор. <…> Между тем старичок бодро постучал по клавишам и снова выдернул листок.
— Вот, извольте, ответ.
Фарфуркис прочитал:
— «У мене внутре… гм… не… неонка».
Аватара пользователя
Павлик Отморозов
Reactions: 95
Сообщения: 471
Зарегистрирован: Пн сен 08, 2025 10:17 pm
Откуда: CA

Re: ИИ - проблемы и перспективы

Сообщение Павлик Отморозов »

mikeG писал(а): Ср янв 07, 2026 7:21 pm
Павлик Отморозов писал(а): Ср янв 07, 2026 5:04 pm Сами разработчики нейросетей полагают, что до создания настоящего интеллекта, тем более суперинтеллекта, может понадобиться 10 - 20 лет.
Это еще в 60-х думали (как и про постройку коммунизма).
За 60 лет не сильно приблизились.
Но нагадить, используя нейросети как инструмент для создания новых смертоносных вирусов, диктатуры могут уже сегодня. И неизвестно, что в итоге окажется хуже - Россия, превращенная в дурную бесконечность посредством "марксизма-ленинизма", или последствия деятельности нейросетей.
Спойлер
Немец из Восточного Берлина заехал в магазин в Западном. Там немец из Западного Берлина купил себе шляпу. Он увидел, что восточный немец тоже хочет шляпу и купил и ему. Продавец спрашивает, почему Вы покупаете ему шляпу. Немец говорит: "Мы оба внуки Карла Маркса. Только ему достался "Манифест", а мне "Капитал".
Аватара пользователя
Alex_L
Reactions: 2106
Сообщения: 5281
Зарегистрирован: Пт янв 27, 2023 8:36 am
Откуда: Belmont, CA, USA

Re: ИИ - проблемы и перспективы

Сообщение Alex_L »

In 2026, distinguishing between a grounded retrieval (real search) and a hallucinated prediction requires a multi-layered verification approach.
1. The Three-Layer Verification Test
Experts suggest a "Librarian's approach" to verify any AI-provided source:
Existence Check: Search the exact title, journal, and author. About 40% of AI-generated citations disappear at this stage because they are entirely fabricated.
Content Check: If the source exists, read it to ensure it actually supports the AI's claim. AI can sometimes invert conclusions or use a real source to support a false fact.
Context Check: Evaluate if a source is being misused, such as a preliminary or niche paper being presented as a global consensus.
2. Red Flags of Prediction (Hallucination)
AI-generated "predictions" often have distinct patterns that real search results do not:
Impossibly Specific Data: Watch for oddly precise percentages, like "78.3%," where real research typically uses rounded numbers unless there is a specific methodological reason.
Timeline Mismatches: Be wary of recent studies claiming long-term trends that would have been impossible to conduct and publish in that timeframe (e.g., a 2025 study on a 10-year trend that started in 2020).
Impossibly Broad Scope: Real research is usually narrow. Be skeptical of claims citing surveys of "50,000 professionals across 30 countries" unless they are from massive, well-known institutions.
3. Professional Tools for Verification
By 2026, specialized tools can help automate this verification process:
GPTZero Hallucination Detector: Automatically flags non-existent academic citations and poorly supported claims.
Semantic Entropy Method: Ask the AI the same question multiple times. If the answers are substantially different, the model is likely "confabulating" rather than retrieving solid knowledge.
Citation Databases: Use Google Scholar, PubMed, or Crossref to verify Digital Object Identifiers (DOIs). If a DOI is provided, search it directly; real DOIs will link to a specific publisher's page.
4. How to Spot "Real" Retrieval in a Chat
In modern AI interfaces, look for active links or hoverable footnotes.
Verified Citations: A grounded response should include a link that takes you directly to a live website (like an official .gov or .edu site).
Vague References: If an AI says "according to recent reports" without providing a link or a specific source name, it is likely relying on internal prediction.
3 Изображение
Oh My God, I'm Gorgeous!
Аватара пользователя
Айва
Reactions: 6359
Сообщения: 7062
Зарегистрирован: Вт июн 21, 2022 4:08 pm
Откуда: NoVa

Re: ИИ - проблемы и перспективы

Сообщение Айва »

🤣🤣🤣 Вот и верь после этого людям ИИ..
Вложения
Screenshot_20260123_191258_ChatGPT.jpg
Screenshot_20260123_191258_ChatGPT.jpg (429.99 КБ) 857 просмотров
Screenshot_20260123_191304_ChatGPT.jpg
Screenshot_20260123_191304_ChatGPT.jpg (135.76 КБ) 857 просмотров
Screenshot_20260123_191732_ChatGPT.jpg
Screenshot_20260123_191732_ChatGPT.jpg (117.33 КБ) 857 просмотров
So many people have inspired me to be nothing like them.
FelisSilvestris
Reactions: 1109
Сообщения: 3915
Зарегистрирован: Сб сен 10, 2022 6:28 pm
Откуда: California

Re: ИИ - проблемы и перспективы

Сообщение FelisSilvestris »

По моему интересное интервью с Гери Маркусом. Я тоже всегда считала что чисто дата дривен системы чреваты проблемами. Нужна картина мира.
Аватара пользователя
Павлик Отморозов
Reactions: 95
Сообщения: 471
Зарегистрирован: Пн сен 08, 2025 10:17 pm
Откуда: CA

Re: ИИ - проблемы и перспективы

Сообщение Павлик Отморозов »

Выступления в прениях:
https://meduza.io/feature/2026/01/27/na ... iy-xxi-vek

— А нужен ли человеку искусственный интеллект? Какую проблему он решает?

— Никакую. Зато ИИ может сделать высшее образование приемлемого уровня универсальным и бесплатным. Я этим сейчас занимаюсь — у нас с коллегами некоммерческий проект в Израиле. В режиме эксперимента мы пытаемся напилить запчасти для AI-университета и понять, сколько эти запчасти будут стоить в расчете на одного пользователя.

Мы уже понимаем, как, используя разные виды кандалов и колодок, заставить этого гада не врать. Или, по крайней мере, как ловить его на вранье. В таком виде ИИ может даже управлять небольшой экономикой — скажем, Грузией. Не править — именно управлять.

ИИ без проблем может заменить управленческую элиту в большинстве стран мира, особенно в некрупных. Можно также создать управляемую ИИ пенсионную систему, хотя, конечно, кому-то иногда будут приходить неправильные счета.

Нейросети способны решить проблему высшего образования и проблему нежелания людей работать на государственной службе. Но ИИ не решает проблему сверхпроводимости или водного кризиса, а также не поможет эффективно передавать энергию на расстояние. А экологическую проблему ИИ, наоборот, только ухудшит.

И при этом мы понимаем, что мы вообще зашли в эту историю с неправильной стороны — со стороны капиталистической экономики. И Anthropic, и OpenAI — все хотят создать продукт общего пользования. Притом что эта хрень не может быть продуктом общего пользования. ИИ эффективен, только когда он жестко ограничен целевой функцией и объемом данных.

Главный игрок, OpenAI, — это компания, которая субсидирует пользователей и делает это за счет будущих поколений, потому что она потребляет энергии больше, чем это экономически оправдано ее будущими прибылями. И цель там вовсе не спасение человечества, а проведение первого в истории IPO на триллион долларов. Это не имеет никакого отношения к прогрессу.

На меня можно злиться сколько угодно, но ИИ — это не революция масштаба расщепления ядра атома или появления интернета. Если внедрить в каждый чайник ассистента или использовать его при операциях («Прости, ты совершенно прав, аппендицит не справа, а слева») — мы получим миллиард сломавшихся чайников.
Аватара пользователя
Uzito
⭐ Top 5 most interesting users
Reactions: 2162
Сообщения: 8526
Зарегистрирован: Пт июн 24, 2022 1:35 pm

Re: ИИ - проблемы и перспективы

Сообщение Uzito »

Павлик Отморозов писал(а): Ср янв 28, 2026 4:57 pm — А нужен ли человеку искусственный интеллект? Какую проблему он решает?

— Никакую.
На этом можно было бы и остановиться.
1160193_IMG_5600.jpeg
1160193_IMG_5600.jpeg (40.78 КБ) 446 просмотров
1 Изображение
alex_127
Reactions: 3091
Сообщения: 13419
Зарегистрирован: Ср июн 15, 2022 9:44 am

Re: ИИ - проблемы и перспективы

Сообщение alex_127 »

Uzito писал(а): Чт янв 29, 2026 2:04 pm
Павлик Отморозов писал(а): Ср янв 28, 2026 4:57 pm — А нужен ли человеку искусственный интеллект? Какую проблему он решает?

— Никакую.
На этом можно было бы и остановиться.
1160193_IMG_5600.jpeg
Я только хотел возмутиться - мол что за фигня, тайтл не майкрософтовский как ее открыли
https://microsoft.ai/job/sr-director-pr ... usiness-4/
Машу Кастлом не испортишь!
alex_127
Reactions: 3091
Сообщения: 13419
Зарегистрирован: Ср июн 15, 2022 9:44 am

Re: ИИ - проблемы и перспективы

Сообщение alex_127 »

Достаточно хорошая статейка

https://newsletter.semianalysis.com/p/c ... tion-point
Машу Кастлом не испортишь!
Буратино
Reactions: 1065
Сообщения: 1871
Зарегистрирован: Сб июн 18, 2022 9:33 pm

Re: ИИ - проблемы и перспективы

Сообщение Буратино »

Все приготовились уже?

Microsoft AI CEO predicts 'most, if not all' white-collar tasks will be automated by AI within 18 months
Microsoft AI CEO Mustafa Suleyman says AI will reach "human-level performance" in white-collar work.
He predicts most tasks in that field can be automated within the next 12 to 18 months.
Several leaders in the AI industry have warned of impending mass job replacement.
Microsoft's AI CEO is joining a chorus of executives who say they anticipate widespread job automation driven by artificial intelligence.

Mustafa Suleyman, the Microsoft AI chief, said in an interview with the Financial Times that he predicts most, if not every, task in white-collar fields will be automated by AI within the next year or year and a half.

"I think that we're going to have a human-level performance on most, if not all, professional tasks," Suleyman said in the interview that was published Wednesday. "So white-collar work, where you're sitting down at a computer, either being a lawyer or an accountant or a project manager or a marketing person — most of those tasks will be fully automated by an AI within the next 12 to 18 months."

The CEO said the trend is already observable in software engineering, in which employees are using "AI-assisted coding for the vast majority of their code production."
https://www.msn.com/en-us/money/other/m ... r-AA1WePVb
alex_127
Reactions: 3091
Сообщения: 13419
Зарегистрирован: Ср июн 15, 2022 9:44 am

Re: ИИ - проблемы и перспективы

Сообщение alex_127 »

Буратино писал(а): Вс фев 15, 2026 6:58 am Все приготовились уже?

Microsoft AI CEO predicts 'most, if not all' white-collar tasks will be automated by AI within 18 months
Я готов!

Но не совсем так. Не automated. Не replaced.
Но human-level performance.
Машу Кастлом не испортишь!
Аватара пользователя
Uzito
⭐ Top 5 most interesting users
Reactions: 2162
Сообщения: 8526
Зарегистрирован: Пт июн 24, 2022 1:35 pm

Re: ИИ - проблемы и перспективы

Сообщение Uzito »

Буратино писал(а): Вс фев 15, 2026 6:58 am Все приготовились уже?

Microsoft AI CEO predicts 'most, if not all' white-collar tasks will be automated by AI within 18 months
Начинать надо конечно же с CxO верхушки - съэкономить миллионы долларов сразу.
alex_127
Reactions: 3091
Сообщения: 13419
Зарегистрирован: Ср июн 15, 2022 9:44 am

Re: ИИ - проблемы и перспективы

Сообщение alex_127 »

Uzito писал(а): Вс фев 15, 2026 7:49 am
Буратино писал(а): Вс фев 15, 2026 6:58 am Все приготовились уже?

Microsoft AI CEO predicts 'most, if not all' white-collar tasks will be automated by AI within 18 months
Начинать надо конечно же с CxO верхушки - съэкономить миллионы долларов сразу.
У вас представление о компаниях отличное от моего. А вот миддл менеджменту - кранты, это да.
Машу Кастлом не испортишь!
Аватара пользователя
Uzito
⭐ Top 5 most interesting users
Reactions: 2162
Сообщения: 8526
Зарегистрирован: Пт июн 24, 2022 1:35 pm

Re: ИИ - проблемы и перспективы

Сообщение Uzito »

alex_127 писал(а): Вс фев 15, 2026 8:26 am
Uzito писал(а): Вс фев 15, 2026 7:49 am Начинать надо конечно же с CxO верхушки - съэкономить миллионы долларов сразу.
У вас представление о компаниях отличное от моего. А вот миддл менеджменту - кранты, это да.
Ну скажите, что делает Маск как CEO пяти или семи компаний одновременно? Почему эту работу нельзя отдать AI? Делать пресс-релизы и озвучивать радостные новости.
FelisSilvestris
Reactions: 1109
Сообщения: 3915
Зарегистрирован: Сб сен 10, 2022 6:28 pm
Откуда: California

Re: ИИ - проблемы и перспективы

Сообщение FelisSilvestris »

Случайно наткнулась на объяснение LLM ну просто доступное для любой домохозяки, но достаточно аккуратное и с историческим бeкгроундом


Лично я имела успех заставить Gemini писать неплохой питоновский код, часто после 5 иттераций. Но лучше б было чтоб была просто библиотека с поисковиком всех уже написанных приложений.
Но боже упаси исползовать это чудо хоть в бухгалтерии, хоть в юростпруденции. Простая задача - дай мне список моих публикаций из google scholar (все известно: имя, сайт) в нужном формате. Даже с десятой попытки не смог. Сочиняет все. Все авторы перепутаны. Говорю этот автор не был в этой публикации. Отвечает типа "упс, сорри" и выдает новый список где опять все перепутано.

Ну да, годится только для ИИ порнухи.
FelisSilvestris
Reactions: 1109
Сообщения: 3915
Зарегистрирован: Сб сен 10, 2022 6:28 pm
Откуда: California

Re: ИИ - проблемы и перспективы

Сообщение FelisSilvestris »

Uzito писал(а): Вс фев 15, 2026 8:31 am
alex_127 писал(а): Вс фев 15, 2026 8:26 am
У вас представление о компаниях отличное от моего. А вот миддл менеджменту - кранты, это да.
Ну скажите, что делает Маск как CEO пяти или семи компаний одновременно? Почему эту работу нельзя отдать AI? Делать пресс-релизы и озвучивать радостные новости.
Согласна, Маска можно точно ИИ заменить :)
alex_127
Reactions: 3091
Сообщения: 13419
Зарегистрирован: Ср июн 15, 2022 9:44 am

Re: ИИ - проблемы и перспективы

Сообщение alex_127 »

FelisSilvestris писал(а): Вс фев 15, 2026 8:44 am Случайно наткнулась на объяснение LLM ну просто доступное для любой домохозяки, но достаточно аккуратное и с историческим бeкгроундом


Лично я имела успех заставить Gemini писать неплохой питоновский код, часто после 5 иттераций. Но лучше б было чтоб была просто библиотека с поисковиком всех уже написанных приложений.
Но боже упаси исползовать это чудо хоть в бухгалтерии, хоть в юростпруденции. Простая задача - дай мне список моих публикаций из google scholar (все известно: имя, сайт) в нужном формате. Даже с десятой попытки не смог. Сочиняет все. Все авторы перепутаны. Говорю этот автор не был в этой публикации. Отвечает типа "упс, сорри" и выдает новый список где опять все перепутано.

Ну да, годится только для ИИ порнухи.
Смотря в прошлое легко доказать что компьютеры никогда не обыграют человека - там думать надо!
Машу Кастлом не испортишь!
Ответить