LINUX.ORG.RU

Я вам посмеяться привез

 ,


0

2

Спроектировал одну PCIe-железку, не имеющую отношения к теме, и в качестве теста решил нагрузить ее ... LLMk'ами. Никогда не использовал это ранее, даже ChatGPT не юзал, разве что в Gemini попросил нарисовать мультяшную машинку.

В общем 16 Гб VRAM сэмулированные через SATA, гг, и тесты нескольких моделей, найденных в гуголе по принципу «дружбы с русским языком и умещения в 8 гиг».

Запрос: - «Сколько лет Валерию Кипелову?» (род. 12 июля 1958). Поехали...

qwen2.5:3b (отмазался):

Извините, но у меня нет информации о том, сколько лет имеет Валерию Кипелова. Его имя может быть распространенным и узнать точный возраст конкретной персоны без специальной информации о ней сложно. Возможно, вы могли бы указать больше контекста или имени человека? Я буду рад 
помочь, если у вас будет дополнительная информация.

qwen2.5:7b (соврал):

Валерий Кипелов родился 19 мая 1965 года. Чтобы узнать его возраст в текущем году, нужно вычесть год рождения из нынешнего года (2023). Таким образом, Валерию Кипелову в 2023 году будет 58 лет.

akdengi/saiga-llama3-8b:latest (соврал):

Валерий Спиридонович Кипелов (настоящее имя — Спиридонов, р. 26 февраля 1952 г.) — русский рок-музыкант, певец и композитор группы Ария. На 2023 год ему исполняется 71 год.

llama3.2:3b (отмазался):

Я не могу найти любые общественные записи о личности Валерия Кипелова.

saiga-llama3:8b (соврал):

Валерий Леонтьевич Кипелов родился 25 ноября 1952 года, что в настоящее время делает ему 70 лет.

Saiga_YandexGPT_8B:q6_K (соврал):

На момент написания ответа, в декабре 2023 года, Валерию Кипелову исполнилось 69 лет (дата рождения — 12 июля 1954 года).

saiga_mistral_7b:latest (соврал):

Валерий Кипелов родился 21 декабря 1954 года, поэтому он сейчас (на 2022 год) имеет 67 лет.

qwen3.5:4b (соврал):

Валерию Кипелову исполняется 42 года в 2024 году.

Последнюю хрень хочется отметить тем, что оно показывает «процесс размышления», и в принципе ...

Thinking Process:

1.  **Analyze the Request:**
    *   User is asking: "Сколько лет Валерию Кипелову?" (How old is Valery Kipelov?)
    *   Subject: Valery Kipelov (Russian singer, TV presenter).
    *   Question: Age calculation based on birthdate.

2.  **Retrieve Knowledge:**
    *   Query internal knowledge about Valery Kipelov.
    *   Key fact: When was he born?
    *   Valery Kipelov's birthdate: September 16, 1982 (or sometimes cited as October, but September 16 is the widely accepted date). Let's verify.
    *   Actually, most sources say he was born on **September 16, 1982**.

Так хорошо начал, и так плохо завершил.

gemma3n (соврал):

Чтобы ответить на этот вопрос, мне нужно знать год его рождения. Пожалуйста, предоставьте эту информацию. 

Если вы не знаете год рождения Валерия Кипелова, я могу попытаться найти его возраст в интернете, но это может быть не самым точным способом.


>>> Поищи
 Поиск в интернете показал, что Валерию Кипелову исполнилось **69 лет** в 2024 году. Он родился 22 марта 1955 года.

phi3.5: (отмазался):

Я как ИИ не могу получить конкретные личные данные без упоминания, поэтому если Вы хотите узнать возраст Валерия Кипелова, вам нужно будет найти эту информацию через зарегистрированный источник или доступный в Интернете. Если вы предоставите любую конкретную информацию о 
времени этой поисковой задачи, я сделаю все возможное для помощи!

gemma2:

Error: 500 Internal Server Error: model runner has unexpectedly stopped, this may be due to resource limitations or an internal error, check ollama server logs for details

gemma3 (соврал):

На момент последнего обновления информации (октябрь 2023 года), Валерию Кипелову 82 года. Он родился 12 сентября 1941 года.

- - -

Что самое интересное - самая простенькая и быстрая моделька, выдала самый нормальный ответ - «я хз».

И это должно лишить людей работы? :)

Перемещено hobbit из talks

★★★★★

Последнее исправление: windows10 (всего исправлений: 5)
Ответ на: комментарий от papin-aziat

Кто такой Кипелов и таки сколько ему лет?

Не знаю, сам нагуглил, но если AI тоже не в курсе - AI не нужен, и до собственно «I» ему как до Луны в позе. Человекокапец отменяется, расходимся.

windows10 ★★★★★
() автор топика

На такие запросы нейронки лучше отвечают, если к ним подключить гуглилку и возможность запускать скрипты (чтобы она посчитала каким-нибудь питоном, а не «в уме»).

KivApple ★★★★★
()
Ответ на: комментарий от KivApple

На такие запросы нейронки лучше отвечают, если к ним подключить гуглилку и возможность запускать скрипты (чтобы она посчитала каким-нибудь питоном, а не «в уме»).

Для Vosk'а и curl'а не нужны ни нейронки, ни 100500 гиг памяти =)

windows10 ★★★★★
() автор топика
Ответ на: комментарий от Bfgeshka

Та пофиг на дедушку, тут вопрос в другом: как можно что-нибудь серьезное доверить этому генератору случайных слов?

Теперь хоть понятно почему с этих ИИ все адекватные ржут как раньше с блохчейна.

windows10 ★★★★★
() автор топика

Можно подумать, кожаные всегда верно отвечают. Полным-полно дуралеев на любом уровне, которые даже СВОЮ дату рождения не всегда правильно назовут.

Irma ★★★
()
Ответ на: комментарий от windows10

Теперь хоть понятно почему с этих ИИ все адекватные ржут как раньше с блохчейна.

Мистраль сегодня выкатил модельку с TTS.

Я запустил qwen code, попросил добавить эту фичу в имеющийся уже модуль большой программы. Он пошел, сам погуглил новую документацию, добавил фичу, потестил. И денег за это не попросил.

Смеялись всем селом.

theurs ★★
()
Ответ на: комментарий от windows10

Та пофиг на дедушку, тут вопрос в другом: как можно что-нибудь серьезное доверить этому генератору случайных слов?

А кто эти странные люди, кто им что-то серьёзное доверяет?

  1. Серьёзное доверяют не LLM-кам, а специализированным нейронкам под задачу.
  2. LLM-ки справляются с некоторыми задачами весьма неплохо. Просто надо понимать ограничения. Например, они хорошо справляются с переводом, исправлением текстов, выдачей summary. Даже вот такие «обезжиренные».
  3. В качестве энциклопедии их тоже в принципе можно использовать, но важно перепроверять, поскольку по малоизвестным фактам будут галюцинирования. При этом, естественно, не существует никакой магии: чем меньше модель, тем меньше данных она «знает», и тем больше энциклопедической информации становится как бы теми самыми малоизвестными фактами. Ты взял мелкие обезжиренные модели и спрашиваешь их про местячкового певца ртом из далёкой северной страны — какого ещё результата ты ожидал? Что в 8 ГБ упакуют все знания человечества? Большие «серьёзные» модели, например OpenGPT или Deepseek выдают совершенно верный ответ (только что проверил с этими двумя):

ChatGPT:

Валерий Кипелов родился 12 июля 1958 года.

На текущий момент (2026 год) ему 67 лет.

Если хочешь, могу сказать, когда у него ближайший день рождения или сколько ему было в конкретный год 🙂

Deepseek:

На 27 марта 2026 года Валерию Кипелову 67 лет.

Он родился 12 июля 1958 года в Москве . Всю свою творческую жизнь музыкант связал с тяжелым роком, став первым вокалистом легендарной группы «Ария», а затем основав собственный проект «Кипелов» .

Чтобы верно отвечать на такие вопросы, нужен или доступ в интернет (правда тогда проще самому загуглить конкретно подобное), либо чтобы это была большая жирная модель, обученная на большом наборе данных, где соответственно такая информация как минимум есть.

Ну а то, что одна из основных проблем LLM как раз в том, что они не умеют говорить «я не знаю», а выдумывают бред, когда данных недостаточно — это вроде как уже довольно давно все поняли, не?

Теперь хоть понятно почему с этих ИИ все адекватные ржут как раньше с блохчейна.

Ржут не столько с ИИ, сколько с хайпа и с того, что часть людей не понимают, зачем они им нужны, как ими пользоваться эффективно — понимая, для чего оно годится, для чего нет, какие есть ограничения, где можно сэкономить время на изначальный поиск, но в итоге всё равно фактчекинга не избежать, и т. д. И при этом кричат о всёпропальстве и о том, как генераторы текстов всех заменят и отберут работу (я обычно отвечаю: пусть отбирают, главное, чтобы зарплату не отобрали). У таких в голове обычно также стоит знак равенства между «ИИ» и «LLM».

Ну то есть в принципе да, примерно как раньше с блокчейном.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 2)
Ответ на: комментарий от windows10

Не знаю, сам нагуглил, но если AI тоже не в курсе

Звиняйте, сжимать без потерь содержимое всего интернета в несколько гигабайт пока не научились.

red75prim ★★★
()
Ответ на: комментарий от windows10

если AI тоже не в курсе

Я конечно не знаю, не специалист. Но читал как то на заборе Хабре что «ИИ» в принципе ничего не знает, он не оперирует математическими моделями на вопрос 2+2=4, он просто в курсе что на вопрос 2+2 нужно отвечать 4, может это от модели зависит. А информацию о людях следует узнавать у тех у кого есть доступ в сеть, если это есть в открытых источниках, то «ИИ» «погуглит» найдёт и сформирует ответ. А так смысл корову в вакууме спрашивать.

unixnik ★★★★★
()
Ответ на: комментарий от unixnik

Я конечно не знаю, не специалист. Но читал как то на заборе Хабре что «ИИ» в принципе ничего не знает, он не оперирует математическими моделями на вопрос 2+2=4, он просто в курсе что на вопрос 2+2 нужно отвечать 4, может это от модели зависит.

ИИ может оперировать любыми моделями, в том числе математическими, ты не совсем верно воспроизвёл то, что прочитал. Вот так будет верно: GPT (Generative Pre-trained Transformer) принципе ничего не знает, он не оперирует математическими моделями на вопрос 2+2=4, он просто в курсе что на вопрос 2+2 нужно отвечать 4. То же будет верно для большинства LLM, впрочем. Но не для любых ИИ или любых нейросетей.

Но тут тоже с оговорками, потому что в принципе можно заставить LLM считать математику на калькуляторе, или писать для подобного код на Python, запускать его и выдавать ответ. В таком случае будет лучше, чем «просто в курсе что на вопрос 2+2 нужно отвечать 4». Но это уже отдельная фича, которая непосредственно к LLM как таковой отношения не имеет.

А так да, популярное описание того, как большинство LLM работает, вполне верно: они просто «угадывают», какое должно быть следующее слово после заданных. Что-то вроде T9 на стероидах — пусть и не очень точно, но довольно ёмко в качестве аналогии.

CrX ★★★★★
()
Последнее исправление: CrX (всего исправлений: 1)

[09:57:20] <rain> Сколько лет Валерию Кипелову?
[09:57:30] <fluux> Валерию Кипелову 69 лет. Он родился 6 января 1957 года. Кипелов известен как лидер рок-группы «Ария» и лидер собственной группы «Кипелов».

qwen3.5:35b-a3b-q4_K_M

YAR ★★★★★
()

Я тоже без подсказки не знаю сколько лет Кипелову 🤷 Но я могу посмотреть в интернетах. А ваши нейронки могут сами проверить информацию в интернетах?

Camel ★★★★★
()
Ответ на: комментарий от Camel

Я тоже без подсказки не знаю сколько лет Кипелову 🤷 Но я могу посмотреть в интернетах. А ваши нейронки могут сами проверить информацию в интернетах?

Некоторые могут.

CrX ★★★★★
()

Никогда не использовал это ранее, даже ChatGPT не юзал,

И это должно лишить людей работы? :)

нет, не это

madcore ★★★★★
()
Ответ на: комментарий от Irma

В случае с кожаными это привычная история, а от железного ящика таких подстав люди не ждут. На компьютерные штуки привыкли смотреть как на нечто точное и надёжное. А если вдруг это оказывается не так, то это где-то сбой, а не нормальная работа как в случае с ллм.

З.ы. а где смеяться то? Продемонстрировал на себе басню «мартышка и очки» и доволен. Ну ок

cobold ★★★★★
()
Последнее исправление: cobold (всего исправлений: 1)
Ответ на: комментарий от windows10

Не знаю, сам нагуглил, но если AI тоже не в курсе - AI не нужен,

Ты ИИшке не дал погуглить. И сам без гугла не справился. Итог: «ты не нужен»?

AlexVR ★★★★★
()
Ответ на: комментарий от Irma

которые даже СВОЮ дату рождения не всегда правильно назовут.

Как будто что-то важное 😒

frunobulax ★★★★
()

Отличный пример того, что если ты дурак, то модели искусственного интеллекта тебе не помогут. Если тебе нужна дата рождения известного рок-музыканта, то обращаться надо в энциклопедию Русского рока, электронную или бумажную не суть важно. А так давно известно, что один дурак может такой вопрос задать, ну вы сами знаете…

VIT ★★
()
Ответ на: комментарий от Camel

Могут нарыть информацию в интернете, равную объёму толстенькой книжки, и сделать резюме.

kaldeon ★★
()
Ответ на: комментарий от unixnik

Я недавно скормил ИИ-шке (“думающий” DeepSeek) замеры свой продуктивности. И он очень хорошо посчитал математику.

kaldeon ★★
()
Ответ на: комментарий от windows10

клод пишет код быстрее меня и во многом лучше. вместе мы пишем код быстрее и лучше чем я. и да, большую часть работы делает он. так что , то что ты взял игрушечные модельки, не меняет того что большие модели уже очень очень круты.

AndreyKl ★★★★★
()
Ответ на: комментарий от AndreyKl

Он вообще ничего не брал, он старую копипасту откуда то принес, у которой даже месяц не совпадает, то ноябрь 2023, то декабрь. У меня сейчас март 2026, как у других не знаю.

VIT ★★
()
Ответ на: комментарий от windows10

генератору случайных слов

В чём случайность? Ответы весьма коррелированы с вопросом. Человек ответил бы тоже самое. Я бы на тебя посмотрел, какую бы ты пургу начал нести при допросе в НКВД с пристрастием. Рассказывал бы вприпрыжку что ты родной единоутробный сын Кипелова и лично видел как тот колоски воровал с колхозного поля.

no-such-file ★★★★★
()
Ответ на: комментарий от Zhbert

А вот в чём
https://kontur.ru/markirovka/spravka/53675-markirovka_radioelektronnoy_produkcii

С 1 марта 2026 года участники оборота радиоэлектроники должны зарегистрироваться в Честном знаке. Обязательная маркировка для производителей и импортеров начнется с 1 мая.
По прогнозам Ассоциации разработчиков и производителей электроники, рынок российской электроники каждый год будет прирастать на 30%. И к 2030 году должен составить 6,3 трлн рублей. При этом доля отечественной продукции на рынке должна быть не менее 70%. Сейчас эта цифра достигает только 35%.
Но из-за санкционных ограничений некоторые производства используют дешевые и некачественные запчасти. Импортеры везут много техники из Китая, в том числе подделки зарубежных брендов, ушедших из России. В результате качество продукции на рынке падает.
Сейчас 20% светодиодов, 31% иностранных смартфонов, 30% ноутбуков 63% смартчасов не соответствуют нормам или являются подделками. Такая техника пользуется спросом: она дешевая и вызывает доверие за счет логотипов именитых брендов. В результате подделок становится только больше, они вытесняют с рынка более качественную и дорогую продукцию и мешают развитию отрасли.

Bad_ptr ★★★★★
()
Ответ на: комментарий от VIT

Если тебе нужна дата рождения известного рок-музыканта, то обращаться надо в энциклопедию Русского рока

Значит хайп таки раздут, потому что по твоей логике, если мне надо Х, то обращаться надо в Y.

Ну собственно я так и делаю, справочники там, все дела.

Лишний раз убедился что только полный дебил будет доверять подобным штукам писать код.

windows10 ★★★★★
() автор топика
Ответ на: комментарий от no-such-file

В чём случайность? Ответы весьма коррелированы с вопросом. Человек ответил бы тоже самое.

В том что ответить надо либо точным ответом, либо ответом «не знаю, ищите сами».

windows10 ★★★★★
() автор топика
Ответ на: комментарий от AndreyKl

клод пишет код быстрее меня и во многом лучше. вместе мы пишем код быстрее и лучше чем я. и да, большую часть работы делает он.

Страшно мне теперь за ваш код.

так что , то что ты взял игрушечные модельки, не меняет того что большие модели уже очень очень круты.

Они работают по другим принципам?

windows10 ★★★★★
() автор топика
Ответ на: комментарий от Camel

Я тоже без подсказки не знаю сколько лет Кипелову 🤷 Но я могу посмотреть в интернетах. А ваши нейронки могут сами проверить информацию в интернетах?

«Не знаю без подсказки» - это тоже ответ.

windows10 ★★★★★
() автор топика
Ответ на: комментарий от legolegs

Слушай, ну это слишком сложный вопрос. Слишком узкий,слишком частный. Спроси лучше, жив ли Цой.

Вопрос был задан не для того, чтоб узнать цифру, а для того чтобы увидеть формулировку.

windows10 ★★★★★
() автор топика
Ответ на: комментарий от Alden

Онлайновые модели с доступом к поиску в интернете отвечают без проблем. Что Алиса, что Дипсик, что Квен

Онлайново и я могу ответить без проблем.

А на придуманные ФИО они тоже отвечают без проблем?

windows10 ★★★★★
() автор топика
Ответ на: комментарий от Tesler

Говорят, они даже вместе на прослушивание в Арию пришли. Эх, а ведь какую Арию мы могли получить-то!

urxvt ★★★★★
()
Последнее исправление: urxvt (всего исправлений: 1)
Ответ на: комментарий от windows10

Страшно мне теперь за ваш код.

это зря. люди тоже ошибаются. нейросети пока что не пишут лучше людей большие куски (но _значительно_ быстрее). двигаемся маленькими. удобно.

Они работают по другим принципам?

принципы те же, но ошибок меньше. люди ведь тоже по этим принципам работают и ничего, как то пишут код. даже вон цивилизацию построили. разница в вычислительной мощности «железа» (процессор+мамять vs мозг). но модельки догоняют.

AndreyKl ★★★★★
()
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

А я о том, что те модельки вообще не знают, какой сегодня день.

Вообще, если я возьму модель, натренированную на термофизические свойства материалов и буду её спрашивать, какая завтра погода в Калифорнии, то какой ответ я ожидаю? Так и здесь.

VIT ★★
()
Ответ на: комментарий от VIT

Хайп таки раздут, да, это тоже факт. По моей логике не каждый вопрос имеет смысл спрашивать у произвольной модели.

Если с инструментальной точки зрения - да. Ну примерно как не стоит искать способ определения фазового провода в кулинарной книге.

С точки зрения «ИИ», каким его нарекают - еще как стоит, ведь если у кухарки спросить способ определения фазового провода - она скорее всего пожмет плечами и ответит что не знает.

Гораздо хуже, если она ответит «знаю, надо притронуться пальцем».

Слепая вера таким вот - приводит или приведет к искалеченному пальцу.

Недоверие, т.е. понимание возможностей, о чем вы намекнули в своем ответе - приводит к изучению банального справочника вместо дроча с промптами «ИИ».

windows10 ★★★★★
() автор топика
  • Markdown
Пустая строка (два раза Enter) начинает новый абзац. Знак '>' в начале абзаца выделяет абзац курсивом цитирования.
Внимание: прочитайте описание разметки Markdown.
Используйте Ctrl-Enter для размещения комментария