LLM - благо!

Похожий период был после изобретения письменности. Когда внезапно вековая мудрость, хранимая в памяти, стала доступна без носителя этой мудрости любому юнцу, научившемуся читать. Думаю, тогда тоже были экзистенциальные размышления на тему «кто ты если ты ничего не знаешь».

Это похоже, но это пена на волнах, мне кажется. Всё таки «вековая мудрость» и глубокое понимание предметной области - две разные вещи. Именно переход от , условно, системы олимпийских богов, основой которой было глубочайшее разделение труда (и высоты греков в исскусствах и науках как следствие) к системе «я сам себе мастер», со значительным упрощением предметов обихода и исскусства - очень похож на то что происходит сейчас, по моему. Но вероятно сейчас упрощения удастся избежать пользуясь сотрудничеством. Но не знаю.

И считаешь, что если эти темы будут проработаны не силами аспирантов и научных сотрудников, а при помощи ИИ

Какая-то ложная дихотомия. Нормальные люди, и я тоже, используют ИИ как инструмент ускоряющий работу. А ненормальные - как заменитель мозгов. Я выступаю против второго, и пытаюсь донести простую мысль. Я вообще не против ИИ, я говорю что ИИ не отменяет необходимости иметь мозги, и иметь в мозгах. А пожалуй, он даже повышает эти требования к человеку.

будут меньше понимать, в какую сторону исследовать?

Ученые с ИИ будут больше понимать, потому что они и так понимают. А вот нейрослоперы и вайбкодеры в плохом смысле этих понятий, ничего не будут понимать, и утонут в своем слопе, опозорятся.

и утонут в своем слопе, опозорятся.

только если те кто принимают работу будут в ней что то понимать. А они запросто могут оказаться вайбкодерами и нейрослоперами.

Решить могут. Сформулировать новую (пока) нет.

напомню тебе просто что ещё год-два назад. и даже пожалуй пол года назад я обсуждал это здесь, на ЛОРе. Мейнстримом была мысль «нейросети не смогут создать ничего нового никогда потому что они обучены на том что создало человечество и могут выдавать только то что в них есть.»

Но я не видел ни одного человека который бы мог пользоваться этим не умея на самом деле брать интегралы. Может быть ты видел?

Видел. Причём в МФТИ. Только у нас Wolfram Mathematica была. И пользовались ей только зная, что такое интеграл и умея брать производную. Потому что производную взять может любой школьник: там тупой алгоритм, а интегрировать в общем случае приходится «методом пристального взгляда», то есть угадывая шаблон.

И если мне сейчас вдруг понадобится посчитать интеграл, то я точно не буду вспоминать/перебирать методы интегрирования, а просто запихну в какой-нибудь онлайновый интегратор (а если он не справится, то в такой же онлайновый, который посчитает численно).

Вычисления арифметики, взятие производных и интегралов, разведение огня двумя палочками и верёвкой, бег, …: всё это можно делать как самоцель для поддержания физического и ментального здоровья, но практически бессмысленно использовать вместо компьютеров, зажигалки и транспорта, если целью является результат.

И умение бегать не влияет на управление транспортом, а умение вычислять в уме без калькулятора на понимание математики (множества, категории, группы, алгебры, пространства, …).

И если мне сейчас вдруг понадобится посчитать интеграл, то я точно не буду вспоминать/перебирать методы интегрирования, а просто запихну в какой-нибудь онлайновый интегратор (а если он не справится, то в такой же онлайновый, который посчитает численно).

ты заблуждаешься. без умения интегрировать это бесполезно. тебе не может понадобиться «взять интеграл» если ты не умел никогда этого делать. потому что понятийный аппарат не позволит тебе понять что эти странные кривые значки обозначают.

т.е. не пойми неверно , я не думаю что ты должен помнить _методы_ _интегрирования_ всю жизнь в деталях. но я думаю что никогда не умев брать интегралы ты не сможешь верно пользоваться интегратором в более-менее произвольном случае. не потому что не сможешь в онайлн-интегратор вбить формулу, а потому что эта формула для тебя - тёмный лес в котором вообще не видно деревьев.

в этом смысле твой пример не подходит. у человека имеется понятие об интегралах , о том как их считать и что это вообще всё значит. А это понятие формируется именно работой с интегральным исчислением и решением задач.

Тут немножко неоднозначность термина «нового». В математике можно сформулировать несчётное число утверждений. Компьютер может их генерировать прямо подряд по какому-нибудь алгоритму. Но нас интересует только «новое, интересное для людей». И вот здесь пока ИИ не умеет.

При этом он вполне может генерировать интересное новое по запросу от пользователя-человека.

При этом он вполне может генерировать интересное новое по запросу от пользователя-человека.

три-шесть месяцев назад в этом были большие сомнения у большинства на лоре, по крайней мере мне так казалось из дискуссии.

ну и да, решить одну из «задач тысячелетия» по запросу пользователя.. гм.. я бы сказал это не сильно отличается от аспирант которому научник поставил задачу.

тебе не может понадобиться «взять интеграл» если ты не умел никогда этого делать. потому что понятийный аппарат не позволит тебе понять что эти странные кривые значки обозначают.

В смысле? Мне достаточно знать, что это операция обратная к производной и что её можно использовать для решения ряда физических задач (от примитивного расчёта площади/объёма до какого-нибудь момента инерции). Также, как если я не буду знать таблицу умножения и помнить алгоритм деления в столбик, это не будет мне мешать делать вычисления на калькуляторе.

Кстати, я некоторыми компьютерными технологиями фактически так и пользуюсь. Я не умею реализовать алгоритм шифрования, но знаю, что если к сайту приписать https, то поток данных будет как-то достаточно хорошо зашифрован. И знаю, что если мне понадобиться зашифровать вручную, то надо погуглить по слову openssl или попросить ИИ написать шифрователь.

Нормальные люди, и я тоже, используют ИИ как инструмент ускоряющий работу.

Мне показалось, что ты выступаешь за то, чтобы пользователь ИИ умел делать всё, о чем он просит ИИ, без ИИ. С моей точки зрения, ИИ можно использовать даже в школьном обучении. Просто понимать, что у ученика среди инструментов есть не только калькулятор (хоть с ними бороться перестали), но и ИИ. А обучение таблице умножения или запоминанию стихов позиционировать как спорт: практической пользы немного, но развивает нужные органы.

А вот нейрослоперы и вайбкодеры в плохом смысле этих понятий, ничего не будут понимать, и утонут в своем слопе, опозорятся.

Плохой смысл тут только один: когда ты результат ИИ не глядя выдаёшь за свой. Так раньше была копипаста с википедии с таким же результатом.

Также, как если я не буду знать таблицу умножения и помнить алгоритм деления в столбик, это не будет мне мешать делать вычисления на калькуляторе.

моя мысль в том что если ты никогда не умел считать, то ты не сможешь считать на калькуляторе кроме ограниченного числа случаев. и чем сложнее такие «подсчёты» и «калькуляторы», тем меньше ты сможешь делать, не зная «что это».

Кстати, я некоторыми компьютерными технологиями фактически так и пользуюсь. Я не умею реализовать алгоритм шифрования, но знаю, что если к сайту приписать https, то поток данных будет как-то достаточно хорошо зашифрован.

тут есть разница по моему. ты пользуешься этим потому что другие люди сделали это рабочим. тебе, собственно, не нужны подробности.

С интегралами другая ситуация - тебе нужно сделать это рабочим и тебе нужны подробности. Но не встретившись с интегральным исчислением, ты даже ен поймёшь в чём состоит проблема и почему интеграл её решает.

Попробуй, в конце концов, попросить сделать расчёты гуманитария знакомого. Даже с ИИ.

У меня просто есть случай под рукой - чел без инженерного образования проектирует индукционную печку (полна земля русская талантами). Ну я тебе скажу он уже года 3 по моему как проектирует её. Время от времени собирая тестовые экземпляры (дважды уже). Экземпляры пока выпускали белый дым и тёмный дым. И вот я показал ему ИИ. Инструмент ему очень порнавился. И кажется он стал им пользоваться. Но я не думаю что он продвинется сильно дальше чем мысль что электроника работает на белом дыме и тёмном дыме. Хотя, конечно, кто его знает.

не только калькулятор (хоть с ними бороться перестали), но и ИИ

калькулятор надо убрать и убрать задания которые слишком трудозатратны без калькулятора. и ИИ не давать.

или же сделать специальное задание «умеет ли ученик пользоваться калькулятором». и для ИИ то же.

Экземпляры пока выпускали белый дым и тёмный дым. И вот я показал ему ИИ. Инструмент ему очень порнавился.

Покажи ему ПИД-регулятор, дыма станет меньше, а евойные познания – ширше и глыбже :)

тут есть разница по моему. ты пользуешься этим потому что другие люди сделали это рабочим. тебе, собственно, не нужны подробности.

Так и калькулятор другие люди сделали рабочим. И если мне надо посчитать, сколько рулонов обоев надо на стены, то для использования калькулятора мне не требуется знать, как в нём реализованы арифметические операции или уметь их вычислять без калькулятора.

С интегралами другая ситуация - тебе нужно сделать это рабочим и тебе нужны подробности.

На кой? Нужен, например, мне момент инерции какой-нибудь фигуры вращения, я могу написать формулу массы на каждом радиусе, а дальше, чтобы получить момент инерции я говорю «получить интеграл» и «магическим» образом это уже ответ.

Кстати, учебник по теоретической физике Ландау-Лифшица в таком стиле и написан: «для этой задачи используем формулу из закона … и формулу из закона …, получим систему дифференциальных уравнений. Её решением будет уравнение …». И там чтобы получить решение нужно не только интегрировать, но и ещё пару методик решения применить. Но с физической точки зрения автору был нужен ответ, а не демонстрация умения решать дифуры.

Инструмент ему очень порнавился. И кажется он стал им пользоваться. Но я не думаю что он продвинется сильно дальше чем мысль что электроника работает на белом дыме и тёмном дыме. Хотя, конечно, кто его знает.

Если догадается попросить у ИИ пошаговую инструкцию по постройке, то сделает. Собственно, он и без ИИ мог бы готовую схему взять.

свои аргументы я привёл, твои послушал. согласиться не могу, так как мне кажется что ты смотришь на вопрос с недостаточной степенью подробности и поэтому видишь неверное решение.

Дальше спорить не вижу смысла, благодарю за дискуссию.

калькулятор надо убрать и убрать задания которые слишком трудозатратны без калькулятора. и ИИ не давать.

А потом ученик заканчивает школу и обнаруживает, что десять лет учился быть очень медленной заменой калькулятора и ИИ, а для задач на работе надо учиться заново.

Даже когда не было калькуляторов, для расчётных задач использовались счёты (и даже в школе учили ими пользоваться).

Я боюсь что вот тот интеграл который там нарисован примерно посрединке, он шансы на использоваие этой штуки даже с ИИ сводит к минимуму в данном случае.

Чел не умеет расчитывать простые схемы по закону ома. Но имеет большую веру в инструменты (разные симуляторы и прочая). Там и до ИИ инструмент был Deus ex machina, а с ИИ боюсь и думать. Но я таки попробую, конечно, подкинуть идейку, благодарю за ссылку.

На кой? Нужен, например, мне момент инерции какой-нибудь фигуры вращения, я могу написать формулу массы на каждом радиусе, а дальше, чтобы получить момент инерции я говорю «получить интеграл» и «магическим» образом это уже ответ.

например, мне момент инерции какой-нибудь фигуры вращения,

На мой взгляд ты просто не понимаешь что ты говоришь, просто не понимаешь. не видишь леса за деревьями. я вот челу из примера выше не объясню я думаю никогда что такое «момент инерции какой нибудь фигуры вращения» и как это связано с вот тем кривым значком.

Мне показалось, что ты выступаешь за то, чтобы пользователь ИИ умел делать всё, о чем он просит ИИ, без ИИ.

Да, желательно чтобы было так. Смысл ИИ прежде всего в том, что он это делает уже в разы быстрее, в будущем - на порядки быстрее.

Ну то есть, по до-ИИ аналогии, любой нормальный инженер или ученый может практически любые расчеты делать вручную, хоть алгоритм трансформера в тетрадке осуществлять. Проблема не в том что не может, а в том что это займет миллион лет вместо минуты.

Так же и с прочим, человек должен уметь, и будет уметь, все делать и без ИИ теоретически, но на практике, без ИИ работать не получится потому что это будет неприемлемо медленно.

Почему я утверждаю что специалист хорошего уровня будет уметь и сам - потому что без этого умения, ИИ в его руках заткнет решение только самых банальных задач. Для решения сложных, надо все иметь в голове. Это, по аналогии, как сам ИИ работает. Чтобы было много токенов в секунду, надо чтобы модель была в VRAM целиком. Иначе, мы или катастрофически теряем скорость, либо вообще ограничиваем сложность задачи непреодолимым барьером.

Почему-то про ИИ это все понимают, а мысль что и ЕИ имеет похожие проблемы, удали ты из мозга знания - не очевидна.

Два чая. Лучше бы я не написал, спасибо. Я выражаю эту мысль фразой «нельзя научиться плавать в пустом бассейне».

Ну, (ibb.co) вот (ibb.co), cфоткал, пользуйтесь.

На всякий случай, сами картинки

есть не только калькулятор (хоть с ними бороться перестали)

Калькулятором можно пользоваться только на уроках физики, на уроках математики, алгебры или геометрии он всё так же запрещён. Как и на ГИА по этим предметам.

Я разделяю обучение интегралам как понятию и обучение аналитическому интегрированию. Также, как про криптографию: для использования человек должен понимать, чем отличается симметричное шифрование от асимметричного и что такое стойкость шифра. Но если бы учили как интегралам, то каждый должен был бы уметь написать реализацию openssl. А каждый программист на Java должен был бы уметь написать JVM.

Так же и с прочим, человек должен уметь, и будет уметь, все делать и без ИИ теоретически, но на практике, без ИИ работать не получится потому что это будет неприемлемо медленно.

Зачем? Зачем экскаваторщику уметь копать без экскаватора? Зачем программисту уметь исполнять код своей программы на компьютере без компилятора? Зачем человеку решать задачи, легко решаемые при помощи ИИ, без ИИ?

Почему я утверждаю что специалист хорошего уровня будет уметь и сам - потому что без этого умения, ИИ в его руках заткнет решение только самых банальных задач.

Компилятор и стандартная библиотека языка тоже затыкают решение только самых банальных задач. Но умение решать сложные задачи не зависит от умения решать задачи без компилятора или с компилятором без стандартной библиотеки.

Для решения сложных, надо все иметь в голове. Это, по аналогии, как сам ИИ работает. Чтобы было много токенов в секунду, надо чтобы модель была в VRAM целиком.

Для ИИ, чтобы лучше работал, часть решения выносят в MCP или субагентов. Это намного эффективнее, чем пытаться заставить его целиком запихнуть в контекст всю задачу.

существеная часть оффисных тружеников и продовцов за прилавком у которых например за смену не скажать что бы много сделок - это всё частные формы условного убиением времени дохода

Как будто ты что-то хотел сказать, но в процессе что-то пошло не так.

ибо общественные институты - а точнее основные их держатели не достаточно сильно заинтересованны в большей скорости социальных изменений

Кто такие держатели общественных институтов? Кто держит семью? А религию? А науку? Ну, в глобальном плане.

по технологиям уже давно яблони на марсах цветомы

По технологиям пока дальше Луны не особо полетаешь. Да и тут есть нюансы.

Я разделяю обучение интегралам как понятию и обучение аналитическому интегрированию.

я думаю что это неразделимо.

Но если бы учили как интегралам, то каждый должен был бы уметь написать реализацию openssl.

я думаю что это разные вещи - интегралы - инструмент разработчика, шифрование - инструмент пользователя. оттуда разные требования к знанию устройства.

из курса начальной физике известна таковая реификация как результирующая_сила которая есть частный случай той ещё умозрительности как сила чьё вполне полное определение доопределил Ньютон мастер над монетой

узкое место не в производстве товаров народного потребления

ща утык в не желании/возможности иными комбинациями получать соратное поведение масс :(

я думаю что это разные вещи - интегралы - инструмент разработчика, шифрование - инструмент пользователя. оттуда разные требования к знанию устройства.

Компилятор тоже инструмент разработчика. Кстати, я помню ещё те времена, когда от программиста на Си требовалось умение при необходимости написать компилятор Си. Но вот для Си++ или тем более Явы или Питона такого требования уже нет.

Всетаки компилятор это инструмент пользователя. Даже если разработчику нужно было написать этот инструмент. Просто разработчику тоже нужно пользоваться инструментами пользователя.

Программа не обязательно должна быть готовой собранной для пользователя. Он может ее получить разными путями - в том числе при помощи компилятора.

А вот алгоритмы, математика - это инструменты разработчика и только разработчика.

Разработчик работает над тем и создает то, для чего не нужен компилятор в принципе чаще всего. Это уже превращение результатов его труда в готовый продукт из полуфабриката.

А вот алгоритмы, математика - это инструменты разработчика и только разработчика.

Математика — да. Реализация конкретных алгоритмов (хоть умножения, хоть вычисления синуса, хоть получения аналитической формы интеграла) - это инструменты пользователя.

Кстати, вот тригонометрия хороший пример: пользоваться тригонометрическими функциями учат задолго до того, как учат вычислять от произвольного аргумента. До этого: вот вам таблицы Брадиса и запомните три значения. Что мешает также воспринимать остальные математические функции/операции?

Разработчик работает над тем и создает то, для чего не нужен компилятор в принципе чаще всего.

Так в теоретической физике аналогично. Для решения задачи нет необходимости интегрировать. Даже не обязательно наличие аналитического интегрирования (конкретная функция может и не интегрироваться): для практических целей достаточно численного. Но это уже «превращение результатов труда физика в готовый продукт из полуфабриката».

Я так понял, что ТС просто не поднял табличку «сарказм», и читать надо «LLM зло, поскольку убивает образование».

Идеи должны в чём-то воплощаться, содержание в отрыве от формы не существует. Та палка, которую подняла обезьяна, тоже ничего не изменила?

А тут все последние пару лет пытаются понять - что вообще происходит. И подобный сарказм - способ аккуратно прощупать ситуцию вокруг, послушать других. Понять - поменялось ли свое мнение и насколько.

если ты сидишь на лоре

траллировать в раковнике

Вот и выясняется отношение людей к ресурсу…

Я там выше по теме дискуссии намекнул вроде ЕМНИП, что когда заказываешь решение за деньги, к нему идёт объяснение. Иначе ты не сдашь задание преподу. Я как-то просил помощи у старшекурсника, и он мне помог. Но не объяснил ничего. Потому что надо гораздо больше книг было читать, чтобы понять материал.

Самое главное, что студенты не понимают, когда поступают в ВУЗ - что это не школа, где всех тянут на тройку, потому что никто из учителей не хочет видеть второй, третий и т.д. год подряд одни и те же рыла в классе. И что ВУЗ - это просто государство тебе даёт возможность образовываться самому.

Ну мы-то все понимаем, что я не тролль?

Все из них до старости работают в пиццериях или на шиномонтажках.

Или программистами…

Взаимодействие учёного с ИИ через десяток-другой лет вполне может выглядеть как-то так:

   Портал пиликнул, дверь зашипела, открылась, Артем не удержался, оглянулся. Две благообразные старушки, нет, эти орать не должны. Но все равно надо куда-то идти.
   - Так, интеллект, - позвал Артем. - Куда лучше, налево или направо?
   - Лучше направо, - посоветовал интеллект. - Налево дорога пойдет вверх, там наверху ветер сильный, ребенку некомфортно будет.
   Артем повернул направо. Метров через двести дорога уткнулась в край пропасти и запетляла по склону серпантином. А солидно тут все обустроено - перила с отбойником по всем высотам от лежачего скейтборда до велосипеда, свалиться и улететь практически невозможно даже без учета силового поля, которое тут тоже наверняка есть. Артем подкатил коляску к отбойнику, перегнулся, заглянул вниз, там горная речка шумит по камням, кругом брызги, пена, не поймешь, то ли водопад, то ли просто пороги. Красивые там внизу радуги, наверное, раньше бывали до глобального потепления. Но с ребенком лучше не спускаться - промокнет, может простудиться, это нынче неопасно, но Машка заколебет упреками.
   Узкий солнечный луч прорезал пропасть, редкий случай - в сплошном облачном слое, укутывающем всю планету, вдруг образовалась сквозная щель. На луче заиграли водяные брызги, где-то белым маревом, а где-то маленькими радугами, а радуги такие интересные! Наслаиваются одна на другую, что-то вроде интерференции второго уровня или как его правильно назвать...
   - Так, интеллект, - сказал Артем. - Помнишь, мы обсуждали конфигурацию варп-поля для червоточины? Что если взять за основу картину интерференции света вон там, внизу?
   - А какой смысл брать ее за основу? - удивился интеллект. - Картина очень простая, хотя, погоди, с твоим зрением оно должно выглядеть... Все, я понял, десять тысяч.
   - Чего? - не понял Артем. - Какие десять тысяч, ты о чем?
   - Десять тысяч кармы на счет, - объяснил интеллект. - Идея годная, пошла в осмысление, если реализация подтвердится, добавлю еще.
(Проскурин В. Г.)

ща утык в не желании/возможности иными комбинациями получать соратное поведение масс :(

Проблем людей в том, что они люди. Какая неожиданность. Я думал, если какие-то более реалистичные идеи.

люди очень коллективны

даже индивидуалисты

сама вера в рыночек - очень коллективисткое вероучение

и да природа человека не препятствует лесопосадкам на марсе -

ибо социальные нормы и стабилизирующие(ака отрицательные) обратные связи вполне полезны особенно кому не торопиться

люди очень коллективны

даже индивидуалисты

ага. При этом они на серьёзных щах доказывают, что они ни от кого не зависят, живя в социуме, и пользуясь всеми его благами. Клоуны.

Есть ещё такие шизики, которые утверждают, что живут вопреки социуму, а не благодаря.

Для кражи данных китайские компании создали как минимум 24 тысячи мошеннических аккаунтов и в общем более 16 млн раз обращались к Claude, собирая данные для обучения, пишет WSJ со ссылкой на заявление Anthropic.

В статье обвиняют китайцев в том, что их Kimi k3 - это дистиллят Claude, но кто изучал совремённые LLM, должен понимать, что это полная чепуха.

У K3 полтора триллиона параметров или даже больше (есть несколько версий K3) - это не надистиллируешь никакими 16 миллионами обращений. Максимум, что могло быть - это если китайцы использовали ответы Claude для RLHF. То есть, для дообучения уже обученной модели, которое настраивает искусственный интеллект под человеческие ценности и цели с помощью оценок и отзывов людей. И то вызывает некоторые сомнения.

Тут всё проще: модели с открытыми весами подобного уровня встают поперек горла некоторым компаниям как с точки зрения бизнеса, так и вообще контроля и подсаживания на свои онлайн-сервисы. Не знаю долго ли такая щедрость продлится, но пока пользуемся. Результаты интересные, уже появились даже такие локальные модели, которые могут влезть в юзерскую игровую видеокарту с 20-24Гб VRAM и работают локально как бы не так же хорошо как крупные онлайн модели, вроде класса GPT 3.5 пару лет назад. Я про Qwen3.8-27B с квантованием Q_40_K_M. Просто потрясающе высокий уровень качества для казалось бы настолько слабой вещи.

Даже когда не было калькуляторов, для расчётных задач использовались счёты (и даже в школе учили ими пользоваться).

А ещё учили пользоваться логарифмической линейкой и таблицами логарифмов, но когда появились массово калькуляторы, от этого отказались и появились в учебниках алгебры разделы по использованию калькуляторов. Но быстро пропали.

Отказались по банальной причине: сначала снабдить все школы калькуляторами ради нескольких уроков было дорого, потом такие разделы стали бессмысленными, поскольку (а) калькуляторы легко осваиваются методом тыка теми, кто умеет считать на бумажке, (б) производители снабжали калькуляторы инструкциями.

Именно для уроков математики калькуляторы малополезны или вредны, поскольку большинство чисел там из эпох, когда даже электричества не существовало и писали гусиными перьями. Таблицы Брадиса полезнее.

Школьные упражнения на вычисления – они ближе к символьному оперированию с группами целых чисел, нежели именно вычислениям. Т.е. складывая 5/6 с 7/ 9, вы должны получить 1 11/18, а не 1,6(1). А решая квадратное уравнение, 1+корень(3), а не 2,73205080756887729353....

У K3 полтора триллиона параметров или даже больше (есть несколько версий K3) - это не надистиллируешь никакими 16 миллионами обращений. Максимум, что могло быть - это если китайцы использовали ответы Claude для RLHF.

Так в этом и обвиняют. Дистиллируется логика рассуждений. Это «движок».

То есть, для дообучения уже обученной модели, которое настраивает искусственный интеллект под человеческие ценности и цели с помощью оценок и отзывов людей. И то вызывает некоторые сомнения.

RL не «настраивает интеллект под человеческие ценности и цели».

Он учит его по-настоящему думать: реагировать на токены разметки деятельности в чате и агентном цикле, удерживать само-модель, перебирать гипотезы, калибровать свою уверенности, применять инструменты и еще много чего.

Сейчас это не «RLHF», а просто «RL».

Школьные упражнения на вычисления – они ближе к символьному оперированию с группами целых чисел, нежели именно вычислениям. Т.е. складывая 5/6 с 7/ 9, вы должны получить 1 11/18, а не 1,6(1). А решая квадратное уравнение, 1+корень(3), а не 2,73205080756887729353….

Калькуляторы тоже разные бывают… Я про трату времени на заучивания умножения и деления столбиком.

Я про трату времени на заучивания умножения и деления столбиком.

Это не заучивают, а тренируют навык.

Навык - это когда что-то полезное в жизни/работе. Я ещё могу понять расчёты в уме: вдруг руки заняты или вдруг надо считать числа небольшие, но быстрее, чем их вводишь в устройство. Но в любой ситуации, где можно разместиться с ручкой и листочком, можно разместиться и со счётным устройством, которое посчитает на порядок быстрее. Лучше бы азбуку Морзе заучивали, и то больше шансов, что пригодится.