LINUX.ORG.RU
Форум — Talks  

Линус сказал, что противники ИИ тупые

 , ,


0

4

https://lkml.org/lkml/2026/10/13/3242

Для Ъ:

Я не понимаю всей этой идиотской концепции «не использовать ИИ для X».

Вот вам новое правило: не используйте компиляторы ни для одного из ваших патчей в ядро.

Потому что если вы не можете показать, что действительно понимаете, что машина делает на самом деле, написав свой код на ассемблере, то я не хочу видеть ваш код. Вы явно некомпетентны, если не можете написать его таким образом.

И, кстати, лучше не использовать редактор для написания сообщения о коммите.

Потому что мне нужно, чтобы вы показали мне, что действительно можете написать хорошее сообщение о коммите, не прибегая к инструментам, которые позволяют легко удалять символы и скрывать ошибки, допущенные при наборе текста.

Понятно?

Потому что в противном случае ваши коммиты с использованием инструментов явно не свидетельствуют о том, что вы знаете, что делаете.

Разве вы не понимаете, насколько АБСОЛЮТНО ГЛУПЫМИ были бы такие правила?

Так что нет. Мы не собираемся вводить дурацкие правила, которые гласят: «Нельзя использовать инструменты для X».

★★★★★

Последнее исправление: Puzan (всего исправлений: 1)
Ответ на: комментарий от Puzan

Самое прямое. Классическая механика детерминирована, хотя существуют неустойчивые динамические системы (плохо предсказуемые), как сложный компилятор. Квантовая механика имеет вероятностную природу — фундаментально, как и БЯМ.

sabacs
()
Последнее исправление: sabacs (всего исправлений: 1)
Ответ на: комментарий от VIT

В биореактор!

Загарать на пляже, купаться в море. Радоваться пенсии.

Надо только научить ИИ убеждать руководство платить пенсии тем, кто потерял работу из-за внедрения ИИ. Либо ИИ в руководство!

NyXzOr ★★★★★
()
Ответ на: комментарий от sabacs

фундаментально, как и БЯМ.

Архитектура LLM не вероятностная, там нет источника энтропии. Её работа абсолютно предсказуема (с учётом погрешностей в вычислениях).

Puzan ★★★★★
() автор топика
Ответ на: комментарий от CrX

Это личное сообщение, что запрещено правилами. Поэтому если удалите- все правильно.

Я очень уважаю Воррена Баффата и Билли Гейтса, и не потому что мы водку пили. Они оба хорошо понимают свое место и значение. Они родились где родились, и кто знает тот знает, они возвращают свои «награбленные деньги» комьюнити. Главная проблема, как дать тем, кому надо дать, и не дать тем, кто просто прожрёт, пропёт, и прогуляет.

VIT ★★★
()
Ответ на: комментарий от sabacs

читайте литературу.

Какую, например? Процитируй кусочек, где показан фундаментальный недетерминизм.

Puzan ★★★★★
() автор топика
Ответ на: комментарий от sabacs

Нютон против Паули. То же мне, бином!

VIT ★★★
()
Ответ на: комментарий от NyXzOr

Господин мой человек. Я не хочу в биореактор Луговского. Кстати Виталик меня предлагал выставить как экспонат, не знаю можно ли найти доказательства, но это было.

VIT ★★★
()
Ответ на: комментарий от sabacs

Контекст. Компилятор может генерировать разный код на идентичном устройстве в идентичных условиях. Так?

VIT ★★★
()
Ответ на: комментарий от sabacs

Понятно, проблема номер один. Потоки разделяют ресурсы. От этих ресурсов зависит качество компеляции. Продолжаем? Итак одно или многопоточный, это важно. Если многопоточный, то уже понятно, «но я то от вас хочу это услышать».

VIT ★★★
()
Ответ на: комментарий от sabacs

зачем нужен параметр –seed в llama.cpp?

Таак. И что же он по-твоему значит? Интересно, по какой такой seed я писал в первом сообщении?

если уж не хотите изучать мат. част

Встречный вопрос.

Puzan ★★★★★
() автор топика
Ответ на: комментарий от VIT

Ещё раз, корректно реализованный многопоточный транслятор полностью детерминирован… без вариантов. Для работы транслятора вообще не нужна случайность.

sabacs
()
Ответ на: комментарий от sabacs

Вот сейчас специально сделал три запуска LLM с одним сидом и одинаковым вопросом, и все три раза получил одинаковый ответ. Чёт не видно там фундаментального недетерминизма.

Puzan ★★★★★
() автор топика
Ответ на: комментарий от Puzan

Таак. И что же он по-твоему значит? Интересно, по какой такой seed я писал в первом сообщении?

Отвечать вопросом на вопрос? Кстати, а что если использовать аппаратный источник случайных чисел? БЯМ перестанет работать и что там с воспроизводимостью?

sabacs
()
Ответ на: комментарий от sabacs

Ты хотя бы за своими тезисами следил. Это ты сказал, что нейросеть не работает без случайности. А я сказал, что на случайность ей пофиг, она работает в любом случае. Прикручивать к ней аппаратный ДСЧ - так это из коробки по умолчанию. Только это не фундаментальное свойство, это отключаемая фича, которая на собственно работу сети не влияет.

Puzan ★★★★★
() автор топика
Последнее исправление: Puzan (всего исправлений: 1)
Ответ на: комментарий от sabacs

Фундаментально. И речь не вообще про любые нейросети, а про конкретно БЯМ.

Ну что за бред? Чем фундаментально отличается трансформер от, например, диффузора?

Puzan ★★★★★
() автор топика
Ответ на: комментарий от lenin386
$ for n in $(seq 10) ; do make hello && mv hello hello-$n ; done
cc     hello.c   -o hello
cc     hello.c   -o hello
cc     hello.c   -o hello
cc     hello.c   -o hello
cc     hello.c   -o hello
cc     hello.c   -o hello
cc     hello.c   -o hello
cc     hello.c   -o hello
cc     hello.c   -o hello
cc     hello.c   -o hello

$ md5sum hello*
d32a67c3d79dc187de8885d4cd50e247  hello-1
d32a67c3d79dc187de8885d4cd50e247  hello-10
d32a67c3d79dc187de8885d4cd50e247  hello-2
d32a67c3d79dc187de8885d4cd50e247  hello-3
d32a67c3d79dc187de8885d4cd50e247  hello-4
d32a67c3d79dc187de8885d4cd50e247  hello-5
d32a67c3d79dc187de8885d4cd50e247  hello-6
d32a67c3d79dc187de8885d4cd50e247  hello-7
d32a67c3d79dc187de8885d4cd50e247  hello-8
d32a67c3d79dc187de8885d4cd50e247  hello-9
no-dashi-v2 ★★★★
()
Ответ на: комментарий от sabacs

Влияет на качество

Как повлияет на качество вручную заданный сид в отличие от сгенеренного аппаратно? Подсказка: ответ - «никак».

Puzan ★★★★★
() автор топика
Последнее исправление: Puzan (всего исправлений: 1)
Ответ на: комментарий от sabacs

Ты, похоже, действительно читать не умеешь. Ещё раз прочитай мой первый пост и попробуй понять, о чём я там писал.

Если не понял, объясняю снова: единственный источник энтропии нейросети - это seed внутреннего ГПСЧ. Это внешний отключаемый параметр, а не фундаментальное свойство сети. То есть, если его зафиксировать, то на фиксированный запрос («напиши факториал на питоне») она всегда будет выдавать одинаковый ответ (код факториала на питоне). Очевидна аналогия с компилятором - один и тот же компилятор (т.е. буквально один и тот же бинарь) на одинаковый исходник будет выдавать одинаковый машкод.

Да, инференс (обычно) использует случайный сид, по этому в посте есть слова «в лабораторных условиях».

Теперь понятно? Тебе сложней объяснять, чем нейросети, ей-богу.

Puzan ★★★★★
() автор топика
Ответ на: комментарий от Puzan

Это ты не понимаешь. Изучай вопрос лучше. Есть куча алгоритмов, например оптимизационных, в которых случайность это фундаментальный фактор, а возможность зафиксировать seed это лишь особенность конкретной реализации.

sabacs
()
Ответ на: комментарий от sabacs

Изучай вопрос лучше

Дай ссылку на источник, где говорится, что случайность - это фундаментальное свойство LLM. Ты же хорошо изучил вопрос, должен иметь литературу.

Puzan ★★★★★
() автор топика
Ответ на: комментарий от sabacs

Рашка как раз разжевал то, о чём я говорю: в модели нет фундаментальной случайности. Про процесс добавления внешнего недетерминизма см. стр.186-187.

Puzan ★★★★★
() автор топика
Ответ на: комментарий от MoldAndLimeHoney

Компиляторы каждый раз выдают разный результат на одни и те же входные данные?

Используй локальные LLM, и результаты каждый раз будут поразительным образом походить друг на друга как братья-близнецы.

tiinn ★★★★★
()
Ответ на: комментарий от sabacs

Вот тебе пара статей для расширения кругозора про возможный вычислительный недетерминизм, и борьбу с ним за reproducible:

https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/

https://hidekazu-konishi.com/entry/reproducible_llm_inference.html

Это как раз в подтверждение моих слов о том, что LLM - это детерминированная штука без всякой «фундаментальной» случайности (иначе, не было бы этих статей).

Puzan ★★★★★
() автор топика
Последнее исправление: Puzan (всего исправлений: 1)

Линупс не тупой. Он просто мудак, но умный.

yvv1 ★★
()
Ответ на: комментарий от sabacs

вы сейчас говорите с координатором IEEE стандарта Си, Си++,SYCL, одним из Спонсоров OpenCL и очень нелюбимово мне Khronus. Я думаю, что ваше предложение комитету будет более продуктивно.

VIT ★★★
()
Ответ на: комментарий от VIT

Сейчас прибежит firkax и заклеймит в выпендреже, Тайминг пошел.

VIT ★★★
()
Ответ на: комментарий от sabacs

Если бы Вы были правы

Я уже даже привёл номера страниц в книге и ссылки на статьи. Неужели мало?

БЯМ решают туже задачу, то за цену в 1000x большую.

Какую задачу?

Puzan ★★★★★
() автор топика
Ответ на: комментарий от Puzan

Я уже даже привёл номера страниц в книге и ссылки на статьи. Неужели мало?

Там не об этом.

Какую задачу?

Задачу генерации кода.

sabacs
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.