статическая и динамическая оптимизация кода

которую пользователь вводит, небось та и неизвестна

к эффективности выполнения это, в принципе, имеет отношение. Например, эффективность использования определённых структур данных может сильно зависеть от размера задачи. Но каким образом исполнитель программы (например, JIT-компилятор) определит размер задачи, вводимый пользователем? Понятно, что у процессора есть конвейер, суперскалярные механизмы, предсказание переходов и т.п. Меня сейчас интересуют возможности оптимазации со стороны системообразующего ПО.

* Небольшие функции, которые часто используются (вот это "часто" и определяется в рантайме), инлайнятся.
* Чтение переменных, которые часто используются и редко меняют значение, заменяется на константу.

К оптимизации подобного рода можно причислить compacting GC - он ложит связанные данные рядом и это может уменьшить cache miss-ы.

>* Небольшие функции, которые часто используются (вот это "часто" и определяется в рантайме), инлайнятся.

разве разработчик заранее не знает, какие функции будут использоваться часто?

>Чтение переменных, которые часто используются и редко меняют значение, заменяется на константу.

а как среда узнает, когда значение, положенное как константа, фактически меняется?

> разве разработчик заранее не знает, какие функции будут использоваться часто?

1) Это не самая тривиальная задача.

2) Разработчик библиотеки этого чаще всего не знает.

> а как среда узнает, когда значение, положенное как константа, фактически меняется?

Например с переменной связывается список функций, "зависящих" от неё, если она меняется, она где-нибудь помечается как "неблагонадёжная", все скомпилированные функции, где она использовалась, перекомпилируются с учётом того, что она уже не константа.

с инлайнингом более-менее ясно

>Например с переменной связывается список функций, "зависящих" от неё, если она меняется, она где-нибудь помечается как "неблагонадёжная", все скомпилированные функции, где она использовалась, перекомпилируются с учётом того, что она уже не константа.

судя по описанию, получается нехилый оверхэд, а стот ли овчинка выделки?

> судя по описанию, получается нехилый оверхэд, а стот ли овчинка выделки?

Если в языке есть понятие констант - нет, конечно. Если нет - то может стоить. Например Scheme, там все функции - суть переменные, значениями которых является функция. Например +. С другой стороны никто + на другую функцию менять не будет. По крайней мере в 99% случаев. Поэтому разумно инлайнить её. А если уж найдётся такой умник, что переопределит, ну немножко просядет производительность. Кстати перекомпилировать необязательно, можно просто инвалидировать, и компилировать когда это надо.

> Кто-нибудь может объяснить в двух словах, на чём основана возможность оптимизации кода во время выполнения (если таковая вообще существует)?

Там "оптимизауия" происходит в основном за счёт того, что сначала селают плохо, а потом вернут как было. Например, как в яве сначала объявят все функции вируальными, а потом при отсутствии переопределений заменяют вызов на не_виртуальный.

> на чём основана возможность оптимизации кода во время выполнения (если таковая вообще существует)?

ленивые вычисления, мемоизация -- вот примеры оптимизации в рантайме

rsdn по этому поводу шумит. http://www.rsdn.ru/forum/message/3002060.1.aspx

>rsdn по этому поводу шумит. http://www.rsdn.ru/forum/message/3002060.1.aspx

Ага, особенно после второй страницы. Так далеко лучше не читать. %)

А так да, llvm - это хорошо.