LINUX.ORG.RU

О неопределённом поведении и багах оптимизатора clang на примере разбора цикла статей Криса Латтнера, разработчика clang.

 , , , ,


11

10

про ud2 - лень читать комменты - но кто-то должен был оставить вот этот цикл из трех постов:

http://blog.llvm.org/2011/05/what-every-c-programmer-should-know.html
http://blog.llvm.org/2011/05/what-every-c-programmer-should-know_14.html
http://blog.llvm.org/2011/05/what-every-c-programmer-should-know_21.html

stevejobs, спасибо за ссылки. С интересом почитал. Ответ получился довольно длинным, даже движок форума не хочет принимать его в таком виде в качестве простого камента, поэтому я решил, что он тянет на отдельную тему. Тем более, что здесь разбирается не какой-то мелкий баг/фича clang'а, а общий подход к созданию оптимизатора, основанный на изложении и анализе статей одного из разработчиков этого компилятора Криса Латтнера (Chris Lattner). Ну и ещё мне пришлось полностью переписать один из его примеров, чтоб он начал работать и иллюстрировать излагаемые им идеи. Если хочешь, можешь послать ему код, чтоб вставил в свою статью вместо своего, не рабочего. Я не возражаю.

А для тех, кто не в теме, это продолжение темы Вызов никогда не вызываемой функции.

Основная мысль автора цикла статей, как я понял, выражена ближе к концу 3-ей статьи в короткой фразе:

c) is a lot of work to implement.

Т. е. автор, по сути, соглашается, что они реализовали какую-то дичь с этими оптимизациями, объясняя некоторые причины: что де оптимизатор не знает, что на входе получает компилятор и даже не знает, что получает он сам на предыдущем проходе, ну и некоторые другие причины. А в конце говорит: но переделывать эту неудачную архитектуру нам лень, поэтому пользуйтесь тем, что есть. Что ж, fixed. В любом случае, статьи полезны, т. к. проливают свет на реальное (и довольно печальное) положение дел, связанных с оптимизациями в компиляторе clang.

Теперь разберу примеры из статей.

1. В первом примере автор пытается показать, почему к указателю на int нельзя обращаться как к указателю на float:

float *P;
 void zero_array() {
   int i;
   for (i = 0; i < 10000; ++i)
     P[i] = 0.0f;
 }

int main() {
  P = (float*)&P;  // cast causes TBAA violation in zero_array.
  zero_array();
}

Этот код — полная дичь. Он будет вылетать и с оптимизациями, и без них, потому что в переменную P (которая по умолчанию инициализируется 0), записывается её собственный адрес, а дальше, начиная с этого адреса, записываются ещё 40000 байт, которые непременно выдут за границы выделенной памяти.

Я немного переделал этот пример, чтоб он заработал, добавив сразу после P массив достаточного размера, в который и будут записываться числа (тоже undefined, но по факту работает с обоими компиляторами — clang и gcc), и заменив запись 0 на запись адреса &P+1, для чего ввёл объединение ufp, т. к. иначе на первой же итерации P будет указывать на 0, после чего на 2-й итерации произойдёт сегфолт. Ну и ещё добавил printf'ы для вывода информации и return, как того требует gcc и стандарт. Тут же отмечу, что мне пришлось слегка повозиться с unsigned *p, объявленным внутри функции print_array(). Сначала я сделал его глобальным, объявив до указателя float *P, и получил похожий на приведённый, но не совсем верный вывод: вместо ожидаемого 0x601268, 0x0, 0x0, 0x601268 программа без оптимизаций выдавала 0x601268, 0x0, 0x601268, 0x0. После установки watchpoint'а в дебагере выяснилось, что массив повторно модифицируется функцией print_array(). Просмотр адресов глобальных переменных &P и &p показал, что и clang, и gcc вставляют p после P и перед массивом arr, хотя в тексте программы она была объявлена первой. Видимо, компиляторы зачем-то сортируют переменные по типам и располагают указатели на float раньше указателей на unsigned. После переноса unsigned *p внутрь функции, всё стало работать, как и ожидалось. Вот мой рабочий (хоть и намеренно некорректный) вариант:

#include <stdio.h>

float *P;

float arr[10000];

union ufp
{
  float** p; float f;
} fp={&P+1};

void zero_array() {
   int i;
   for (i = 0; i < 10000; ++i)
     P[i] = fp.f;
 }

void print_array() {
   int i;
   unsigned *p;
   printf("&P==%p, P==%p\n", &P, P);
   for(i = -2; i < 10000; ++i)
    {
      p=(unsigned*)P;
      printf("&P[%i]==%p, P[%i]==%f (%p: 0x%X)\n", i, &P[i], i, P[i], p+i, *(p+i));
    }
}

int main() {
  P = (float*)&P;  // cast causes TBAA violation in zero_array.
  zero_array();
  //P=(float*)(&P+1); // restoring P for optimizer
  print_array();
  return 0;
}

При компиляции clang'ом без оптимизации:

clang -o zero_array zero_array.c

этот вариант выдаёт следующее:

&P==0x601260, P==0x601268
&P[-2]==0x601260, P[-2]==0.000000 (0x601260: 0x601268)
&P[-1]==0x601264, P[-1]==0.000000 (0x601264: 0x0)
&P[0]==0x601268, P[0]==0.000000 (0x601268: 0x0)
&P[1]==0x60126c, P[1]==0.000000 (0x60126c: 0x601268)
&P[2]==0x601270, P[2]==0.000000 (0x601270: 0x601268)
&P[3]==0x601274, P[3]==0.000000 (0x601274: 0x601268)
&P[4]==0x601278, P[4]==0.000000 (0x601278: 0x601268)
[skip]
&P[9994]==0x60ae90, P[9994]==0.000000 (0x60ae90: 0x601268)
&P[9995]==0x60ae94, P[9995]==0.000000 (0x60ae94: 0x601268)
&P[9996]==0x60ae98, P[9996]==0.000000 (0x60ae98: 0x601268)
&P[9997]==0x60ae9c, P[9997]==0.000000 (0x60ae9c: 0x601268)
&P[9998]==0x60aea0, P[9998]==0.000000 (0x60aea0: 0x601268)
&P[9999]==0x60aea4, P[9999]==0.000000 (0x60aea4: 0x601268)

и корректно завершается.

Если же включить оптимизацию:

clang -o zero_array -O2 zero_array.c

то получаем следующее:

$ ./zero_array
&P==0x601260, P==0x60126800601268
Ошибка сегментирования

Кстати, такой же результат будет, если откомпилировать эту программу компилятором gcc с включённой оптимизацией (там только адреса будут немного другими). Избавиться от этой ошибки можно 2 способами:

  1. Закомментировав вызов print_array() в функции main().

    Очевидно, что в этом случае никакого вывода мы не получим.

  2. Раскомментировав в main() строчку
    P=(float*)(&P+1); // restoring P for optimizer

    Тогда мы получим такой вывод:

    &P==0x601260, P==0x601268
    &P[-2]==0x601260, P[-2]==0.000000 (0x601260: 0x601268)
    &P[-1]==0x601264, P[-1]==0.000000 (0x601264: 0x0)
    &P[0]==0x601268, P[0]==0.000000 (0x601268: 0x601268)
    &P[1]==0x60126c, P[1]==0.000000 (0x60126c: 0x601268)
    &P[2]==0x601270, P[2]==0.000000 (0x601270: 0x601268)
    &P[3]==0x601274, P[3]==0.000000 (0x601274: 0x601268)
    &P[4]==0x601278, P[4]==0.000000 (0x601278: 0x601268)
    [skip]
    &P[9994]==0x60ae90, P[9994]==0.000000 (0x60ae90: 0x601268)
    &P[9995]==0x60ae94, P[9995]==0.000000 (0x60ae94: 0x601268)
    &P[9996]==0x60ae98, P[9996]==0.000000 (0x60ae98: 0x601268)
    &P[9997]==0x60ae9c, P[9997]==0.000000 (0x60ae9c: 0x601268)
    &P[9998]==0x60aea0, P[9998]==0.000000 (0x60aea0: 0x0)
    &P[9999]==0x60aea4, P[9999]==0.000000 (0x60aea4: 0x0)
    

Проблема тут очевидна: в цикле в P[i] записывается адрес &P+1. Но указатель P указывает на самого себя благодаря присвоению P = (float*)&P. Соответственно, элемент P[0] находится по тому же адресу, что и P. Когда при 1-й итерации цикла мы записываем туда адрес следующего элемента, указатель P меняется. В 64-битной ОС размер указателя равен 8 байтам, а размер float — 4, т. е. P у нас теперь указывает на начало arr. Дальше мы записываем 1-ый элемент от нового начала массива, т. е. по сути 3-й элемент, пропуская таким образом 2 элемента.

Когда же мы включаем оптимизатор (и в clang, и в gcc), он записывает все двойные слова подряд, начиная с 0-ого (в P[-1] у нас 0 потому, что мы перезаписали его после вызова zero_array(), чтобы программа не вылетела при вызове print_array()). Поэтому в первых 2 элементах у нас записано число 0x601268 (если представлять его как беззнаковое целое длиной в 4 байта), но 1-ые 2 элемента одновременно являются адресом, на который указывает P, т. е. адресом 0x0060126800601268 (0x601268 повторенное 2 раза). Если ничего не выводить, то всё тоже проходит успешно. Но как только мы вызываем print_array() (не модифицировав этот дикий адрес), программа сразу пытается отобразить содержимое не валидного адреса 0x601268, а того самого 0x0060126800601268, которого в нашем адресном пространстве просто нет. И получает сегфолт.

Почему printf отображает значения с плавающей точкой, которые в целочисленном виде выглядят как 0x601268, нулями, а не NAN, как по идее должно бы было быть, я не знаю. Видимо, это баг стандартной библиотеки (надо будет послать багрепорт, если никто мне не объяснит, что они правы).

Кстати, оба компилятора по неведомым мне причинам при оптимизации (а я пробовал разные уровни оптимизации) почему-то вместо записи поля fp.f memset'ом продолжают генерить цикл, только более короткий, чем без оптимизации (ассемблерные листинги я тут приводить не буду, кому интересно, могут сами откомпилировать с опцией -S). Хотя при записи константы 0 компилятор clang с вкючённой оптимизацией вместо цикла вызывает memset (gcc и в этом случае генерит цикл).

На всякий случай укажу версии использованных компиляторов:

$ clang --version
Debian clang version 3.5.0-10 (tags/RELEASE_350/final) (based on LLVM 3.5.0)
Target: x86_64-pc-linux-gnu
Thread model: posix

$ gcc --version
gcc (Debian 4.9.2-10) 4.9.2
Copyright (C) 2014 Free Software Foundation, Inc.
Это свободно распространяемое программное обеспечение. Условия копирования
приведены в исходных текстах. Без гарантии каких-либо качеств, включая 
коммерческую ценность и применимость для каких-либо целей.

К сожалению, мне пришлось писать рабочую программу за автора статьи, который не удосужился даже проверить тот код, который опубликовал (хотя там и без проверки видно, что код по-любому не рабочий, хоть оптимизируй, хоть нет). Впрочем, автор всё честно объяснил:

c) is a lot of work to implement.

Такие они, разработчики clang'а.

Но идею я понял: при заполнении массива 0 или другими значениями в цикле, опасно одновременно менять указатель на этот массив. Но при чём тут изначальное утверждение о том, что

It is undefined behavior to cast an int* to a float* and dereference it (accessing the «int» as if it were a «float»).

Как это утверждение иллюстрируется данным примером?

Я уже не говорю о том, что оптимизировать циклы в memset нет никакой необходимости, потому что программист и сам может это сделать, сократив не только получившийся бинарник, но и исходник. А если программисту до этого нет дела, то почему компилятору должно быть дело? Тем более, если программист сделал цикл намеренно, то компилятору совсем незачем это исправлять. Думаю, именно поэтому gcc и не сворачивает циклы в memset. Я уже не говорю о том, что если уж вы сворачиваете их в memset, то будьте последовательны. Почему при заполнении массива константой 0 вместо цикла clang вызывает memset, а при заполнении того же массива одной не меняющейся переменной длиной в 4 байта оставляет цикл? Грош цена такой оптимизации.

Вот заменить вызов memset на ассемблерную команду rep stos действительно было бы полезно, но почему-то ни clang, ни gcc этого не делают.

2. Во втором примере автор цикла показывает, как смертельный указатель может запутать оптимизатор clang так, что тот сгенерит очередную фигню вместо исполняемого кода. Вот пример смертельного кода из 2-й статьи:

void contains_null_check(int *P) {
  int dead = *P;
  if (P == 0)
    return;
  *P = 4;
}

Очевидно, что если передать функции contains_null_check() NULL, то код будет непереносимым (undefined behavior). В защищённом режиме при попытке разыменования такого указателя произойдёт сегфолт. (UPD: практически аналогичная ошибка в ядре Linux 2.6.30 и 2.6.18 для Red Hat привела к серьёзной уязвимости, причём при разыменовании указателя система не падала.) Однако в реальном режиме такой код вполне законный. Более того, если мы рассматриваем язык си как системный язык, то в некоторых случаях без подобного кода в реальном режиме не обойтись. Что у нас лежит по адресу 0 в реальном режиме? — Указатель на обработчик 0-ого прерывания (деление на 0). А что если я хочу зарегистрировать свой обработчик? Для этого и существует неопределённое поведение: в одних системах оно работает так, а в других иначе. Но разработчики clang'а считают, что «неопределённое поведение» — это индульгенция на генерацию разного бреда вместо нормального кода.

Но вернёмся к статье. Автор описывает 2 варианта поведения оптимизатора.

  1. В первом варианте сначала проверяется избыточный код, а затем избыточные проверки. Выглядит это примерно так:
    void contains_null_check_after_DCE(int *P) {
      //int dead = *P;     // deleted by the optimizer.
      if (P == 0)
        return;
      *P = 4;
    }
    

    На этом этапе совершенно справедливо выпилили переменную dead, т. к. она нигде не используется.

    Далее идёт проверка избыточности проверок и делается правильный вывод о том, что проверка P на равенство 0 нужна. Она остаётся. Всё работает, как и задумывалось (и даже не падает в защищённом режиме на радость быдлокодерам).

  2. Во втором варианте оптимизатор сначала проверяет проверки программиста на избыточность, а затем выпиливает ненужные переменные:
    void contains_null_check_after_RNCE(int *P) {
      int dead = *P;
      if (false)  // P was dereferenced by this point, so it can't be null 
        return;
      *P = 4;
    }
    

    Здесь оптимизатор почему-то решил, что раз *P разыменовывается без проверки, то он априори 0 быть не может и проверять его необходимости нет. А то, что программист мог ошибиться, разработчикам оптимизатора даже в голову не приходит. Как и то, что помимо защищённого режима есть ещё и реальный. А бывают ещё компиляторы для разных контроллеров и встроенных специализированных систем, где разыменовывать 0 указатели бывает нужно и иногда даже необходимо. Или clang такие системы не поддерживает? И никогда не сможет поддержать с подобным подходом, ориентированным на работу только защищённых многозадачных ОС.

    Но вернёмся к статье. На следующем этапе выпиливается переменная dead и проверка на 0 и остаётся:

    void contains_null_check_after_RNCE_and_DCE(int *P) {
      *P = 4;
    }
    

    Если раньше программа корректно работала в реальном режиме, а в защищённом падала, то теперь в реальном режиме вектор 0-ого прерывания перезаписывается адресом 4. В результате при любой ошибке деления компьютер намертво зависает (хотя реальный режим clang, как я понимаю, не поддерживает и никогда не сможет поддержать с таким шикарным легаси).

3. Третий пример я разбирать не буду, т. к. согласен с автором, что оптимизация «x > x+1 всегда false» может быть полезна при использовании макросов. А для проверки переполнения существуют константы MAX_*.

4. Четвёртый пример — почти из поста Вызов никогда не вызываемой функции. Его уже разобрали по полочкам, сломали все копья, какие только можно было сломать, в т. ч. и я, поэтому здесь повторяться не буду. Единственно, скажу, что мне было непонятно, зачем заменять вызов функции по 0-ому адресу с неизбежным сегфолтом на недопустимую инструкцию ud2. Автор поясняет во 2-й статье:

2. Clang has an experimental -fcatch-undefined-behavior mode that inserts runtime checks to find violations like shift amounts out of range, some simple array out of range errors, etc. This is limited because it slows down the application's runtime and it can't help you with random pointer dereferences (like Valgrind can), but it can find other important bugs. Clang also fully supports the -ftrapv flag (not to be confused with -fwrapv) which causes signed integer overflow bugs to trap at runtime (GCC also has this flag, but it is completely unreliable/buggy in my experience). Here is a quick demo of -fcatch-undefined-behavior:

В вольном пересказе: мы всегда так делаем, чтобы показать, что код содержит участки с неопределённым поведением. И плевать, что недопустимая инструкция не указывает на некорректный код. Просто ничего лучшего мы не придумали.

Мне, кстати, удалось получить бинарник с такой инструкцией безо всяких экспериментальных флагов.

И напоследок 2 эпические цитаты. Первая из начала 1-ой статьи. Она очень понравилась dzidzitop:

It turns out that C is not a «high level assembler» like many experienced C programmers (particularly folks with a low-level focus) like to think

Вот оно что оказывается. Си — это та же ява, чуть более быстрая и более опасная. А для написания системных вещей переходите на настоящий ассемблер! Кен Томпсон гомерически хохочет и Деннис Ритчи переворачивается в гробу.

А вторая из 3-ей, заключительной статьи:

Ultimately, undefined behavior is valuable to the optimizer because it is saying «this operation is invalid - you can assume it never happens».

В вольном пересказе это обозначает: «Вау! Неопределённое поведение! Ворочу куда хочу!»

UPD: Вот хочу добавить сюда ещё несколько ответов на вопросы, на которые приходится отвечать по всему треду одно и то же:

1. То, что ub обозначает «делай, что хочешь!», мягко говоря, неправда. Вот, что написано в стандарте C99:

3.4.3

1 undefined behavior

behavior, upon use of a nonportable or erroneous program construct or of erroneous data, for which this International Standard imposes no requirements

2 NOTE Possible undefined behavior ranges from ignoring the situation completely with unpredictable results, to behaving during translation or program execution in a documented manner characteristic of the environment (with or without the issuance of a diagnostic message), to terminating a translation or execution (with the issuance of a diagnostic message).

3 EXAMPLE An example of undefined behavior is the behavior on integer overflow.

Т. е. в стандарте чётко прописаны 3 действия, из которых разработчики компиляторов могут выбрать любое:

1. Игнорировать ситуацию. Смотрим в Ожегове, что обозначает слово «игнорировать»:

Умышленно не заметить, не принять во внимание.

Т. е. «игнорировать» — это сделать вид, что всё нормально и пройти мимо, а не модифицировать или удалять такой код, и уж тем более делать на его основе какие-то бредовые предположения.

2. Компилировать и выполнять такой код в соответствии с документацией, с выводом предупреждающих сообщений или без них. Т. е. напишите явно в документации, что если мы встречаем 0 указатель, то делаем то-то и то-то, и делайте. Но не в тихую.

3. Прерывать компиляцию и/или выполнение с обязательным выводом диагностических сообщений.

И всё. Ни о каком «что хочешь» в стандарте речи не идёт. Вот тут мне в каментах подсказали, что «with unpredictable results» обозначает «что хочешь». Но на самом деле это обозначает лишь то, что результаты могут быть непредсказуемыми, а совсем не то, что компилятор может делать всё, что угодно (хотя разработчикам таких компиляторов подобная трактовка очень удобна).

Ну и тот же человек считает, что «это notes», а значит неважно, что там написано. Но т. н. неопределённое поведение при переполнении целого — вообще example из того же пункта:

EXAMPLE An example of undefined behavior is the behavior on integer overflow.

И больше я нигде никаких упоминаний об ub при арифметическом переполнении не нашёл. Про переполнение при сдвигах — нашёл. А в других случаях — нет. Но все почему-то на этот example ссылаются.

2. Многие говорят, что быдлокодеры должны страдать. Но серьёзные уязвимости, связанные с ub, а точнее с непредсказуемой реакцией компилятора на ub, в разное время обнаруживались в ядре Linux, во FreeBSD и в GDK-Pixbuf, затрагивающая Chromium, Firefox и VLC. Подробнее см. в этом комментарии, чтоб не раздувать и без того длинный верхний пост. Здесь только скажу, что уязвимость в ядре Linux связана с ошибкой, идентичной со 2-м примером из разбираемых статей.

3. Автор статей и многие в этом треде утверждают, что автоматически отыскать такие ошибки очень сложно и дорого, а то и вовсе невозможно. Но это тоже не так. В Интернете я нашёл такой пример си++ программы с ub:

#include <iostream>
int main()
{
    for (int i = 0; i < 300; i++)
        std::cout << i << " " << i * 12345678 << std::endl;
}

Программа из-за переполнения временного результата на 174-й итерации при использовании ключа оптимизации -O2 в g++ попадает в бесконечный цикл.

Запустив компиляцию, я получил следующие предупреждения (причём безо всяких опций -W что-то_там):

$ g++ -o infinity_loop -O2 infinity_loop.cpp
infinity_loop.cpp: В функции «int main()»:
infinity_loop.cpp:5:38: предупреждение: iteration 174u invokes undefined behavior [-Waggressive-loop-optimizations]
         std::cout << i << " " << i * 12345678 << std::endl;
                                      ^
infinity_loop.cpp:4:5: замечание: containing loop
     for (int i = 0; i < 300; i++)
     ^

А ведь здесь случай куда менее очевидный, чем простое разыменование NULL-указателя.

4. Наконец, на Хабре я вычитал, что стандартный макрос

#define offsetof(st, m) ((size_t)(&((st *)0)->m))

тоже содержит UB. Правда, к ошибкам и уязвимостям это пока не приводит. Но именно, что пока, UB ведь, а значит любой компилятор имеет полное право, встретив вызов этого макроса, отформатировать диск, как утверждают создатели компиляторов и многие лорчане.

UPD 2: Вот тут Sorcerer в комментарии кинул ссылку на письмо Линуса Торвальдса в рассылке от 12 января 2009 года, где он пишет о том, что думает о некоторых оптимизациях. Приведу несколько фрагментов этого письма в своём переводе:

Type-based aliasing — это тупость. Это такая невероятная тупость, что даже не смешно. Оно испорчено. И gcc взял испорченную концепцию и настолько её раздул, следуя букве-закона, что получилась бессмысленная вещь.

[skip]

Это НЕНОРМАЛЬНО. Это так невероятно безумно, что люди, которые делают это, просто должны избавиться от своего убожества, прежде чем они смогут восстановить. Но реальные gcc программисты действительно думали, что это имеет смысл, потому что стандарт это позволяет и даёт компилятору максимальную свободу, — потому что он может делать теперь вещи БЕЗУСЛОВНО АБСУРДНЫЕ.

И компиляторщикам абсолютно абсурдные вещи часто кажутся действительно хорошими, потому что им больше не надо беспокоиться о конечном результате: работает оно или нет, — они просто получили добро тупить во имя оптимизации.

[skip] И если кто-то жалуется, что компилятор невменяемый, компиляторщики скажут «ня, ня, разработчики стандарта сказали, что так можно», с абсолютным отсутствием анализа, имеет ли оно СМЫСЛ.

По любому, однажды вы начинаете делать глупости, подобно этой, думая, что стандарт имеет больше смысла, чем человек, пользующийся головой 5 секунд, внезапно вы оказываетесь в ситуации, когда возможно дико переместить хранилище, и всё это 'корректно'.

[skip]

Угадайте, что произойдёт, если вы имеете такой безумный склад ума и пытаетесь сделать безопасный код без alias'а, — вы займёте лишнее пространство на стеке.

По факту, Linux использует -fno-strict-aliasing из-за чертовски веской причины: потому что в gcc понятие «strict aliasing» является огромной зловонной кучей д-рьма. Linux использует этот флаг не потому, что Linux исполняется быстро и свободно, он использует этот флаг, потому что _не_ использует тот безумный флаг.

Type-based aliasing неприемлемо тупо для начала, и gcc вознёс этот идиотизм до совершенно новых высот, фактически не обращая внимания даже на статически видимый aliasing.

Линус

Оригинал (на английском):

Type-based aliasing is _stupid_. It's so incredibly stupid that it's not even funny. It's broken. And gcc took the broken notion, and made it more so by making it a «by-the-letter-of-the-law» thing that makes no sense.

[skip]

That's INSANE. It's so incredibly insane that people who do that should just be put out of their misery before they can reproduce. But real gcc developers really thought that it makes sense, because the standard allows it, and it gives the compiler the maximal freedom - because it can now do things that are CLEARLY NONSENSICAL.

And to compiler people, being able to do things that are clearly nonsensical seems to often be seen as a really good thing, because it means that they no longer have to worry about whether the end result works or not - they just got permission to do stupid things in the name of optimization.

[skip] And if somebody complains that the compiler is insane, the compiler people would say «nyaah, nyaah, the standards people said we can do this», with absolutely no introspection to ask whether it made any SENSE.

Anyway, once you start doing stupid things like that, and once you start thinking that the standard makes more sense than a human being using his brain for 5 seconds, suddenly you end up in a situation where you can move stores around wildly, and it's all 'correct'.

[skip]

Guess what happens if you have that kind of insane mentality, and you then try to make sure that they really don't alias, so you allocate extra stack space.

The fact is, Linux uses -fno-strict-aliasing for a damn good reason: because the gcc notion of «strict aliasing» is one huge stinking pile of sh*t. Linux doesn't use that flag because Linux is playing fast and loose, it uses that flag because _not_ using that flag is insane.

Type-based aliasing is unacceptably stupid to begin with, and gcc took that stupidity to totally new heights by making it actually more important than even statically visible aliasing.

Linus

И ещё спасибо anonymous'у за камент с ещё одним сообщением на ту же тему того же автора от 26 февраля 2003 года.

Ну и от себя добавлю, что не только Линусу не нравится aliasing. Microsoft тоже не спешит реализовывать его в своём Visual C++. Т. е. не нравится это тем, кто помимо разработки компиляторов создаёт и другой софт с использованием этого компилятора, например ОС. А те, кто создают только компиляторы для сферических программистов в вакууме, рьяно эту фичу реализуют, хоть их и никто не заставляет.

Ну и напоследок оставлю несколько полезных ссылок на память:

Стандарт C11 (последний) (pdf), Стандарт C99 (pdf),

http: //read.pudn.com/downloads133/doc/565041/ANSI_ISO%2B9899-1990%2B%5B1%5D.pdf (Стандарт C89) (pdf),

http: //web.archive.org/web/20030222051144/http: //home.earthlink.net/~bobbitts/c89.txt (Стандарт C89) (txt),

https: //web.archive.org/web/20170325025026/http: // www .open-std.org/jtc1/sc22/wg21/docs/papers/2017/n4660.pdf (Стандарт C++17) (последний) (pdf),

Стандарт C++14 (pdf), Стандарт C++11 (pdf),

бумажный перевод стандарта C++17, выполненный Зуевым и Чуприновым, Москва, 2016, на основе Working Draft, Standard for Programming Language C++ от 22 мая 2015 года (номер документа n4527) за 4945 руб. (надеюсь, что эту ссылку не сочтут за рекламу, т. к. к авторам я никакого отношения не имею), а здесь можно скачать начало перевода (предисловие и содержание), ну и ещё торрент-ссылку видел на эту книгу, но здесь её публиковать не буду,

статья на Хабре (из песочницы) от 2014 г. Неопределенное поведение в C++, ещё одна статья там же от 2016 года Находим ошибки в коде компилятора GCC с помощью анализатора PVS-Studio, Разыменовывание нулевого указателя приводит к неопределённому поведению и Про C++ алиасинг, ловкие оптимизации и подлые баги. Это так, ссылки на заметку.

Некоторые ссылки парсер ЛОР'а не принял, поэтому мне пришлось разделить их пробелами, превратив в текст, который можно скопировать в адресную строку браузера, удалив пробелы. Там, где http встречается дважды в 1 строке — не ошибка, а именно такие ссылки.

Идеальная схема работы компилятора такая:

  • Фронтенд говорит где ошибки и возможные UB
  • Оптимизатор считает что всё корректно и действует соответствующе.

В реальности оно близко к этому, но к сожалению не так. В частности, в общем случае статически определить UB невозможно (пример со strict-aliasing), так же как невозможно отличить кривой код пользователя от автоматически сгенерённого контекста (пример с разыменованием нулевого указателя и проверкой). Не все вещи отслеживаются на уровне фронтенда, не все на уровне оптимизатора, не все в compile-time в принципе.

В целом оптимизатор предполагает что программа корректна и это правильно, потому как иначе проводить оптимизации было бы практически невозможно.

Я могу представить почему это не нравится программистам, но все предположения о том что будет за пределами defined behavior - это их личная фантазия и писать программы, закладываясь на неё весьма непрактично.

Если нужно чтобы участок кода гарантированно не оптимизировался - есть такая замечательная штука как volatile.

alexanius ()
Ответ на: комментарий от ckotinko

здесь я заdiscardил одно из возможных значений потому что посчитал его невозможным изза UB. он должен это сделать.

Тут возникнет проблема в количестве этих предупреждений. Например, вот этот код будет генерировать такое предупреждение:

void func(int k) {
  for (int i = 1; i < k; i++) {
    if (i + 1 < i) { // как узнать, нормально это или уже нет?
      printf("not gonna happen\n");
    }
  }
}

Вот этот код тоже:

void func(void *p) {
  int *i = p; // а что, если в p был не int*?
  i[0] = 0;
}

И вот этот:

int func(int a) {
  return a << 1; // вполне норм, пока не дойдёшь до бита со знаком.
}

И это только те, которые сходу придумались.

Тебе нужно больше предупреждений, это понятно. Скажи, ты код всегда с -Weverything собираешь, да?

i-rinat ★★★★★ ()

что оптимизация «x > x+1 всегда false»

$ cat t.cpp 
#include <stdio.h>
#include <limits.h>

int main()
{
    unsigned x = UINT_MAX;
    ::printf("x = %u\n", x);
    if (x > x+1)
    {
        ::printf("overflow\n");
    }
    else
    {
        ::printf("x > x + 1 <- false\n");
    }
    return 0;
}
$ clang --version
Apple LLVM version 9.0.0 (clang-900.0.37)
Target: x86_64-apple-darwin17.0.0
Thread model: posix
InstalledDir: /Applications/Xcode.app/Contents/Developer/Toolchains/XcodeDefault.xctoolchain/usr/bin
$ clang t.cpp -O3 -o t
$ ./t
x = 4294967295
overflow

$ clang t.cpp -O0 -o t
$ ./t
x = 4294967295
overflow

С уровнем оптимизации -O2 аналогично.

andreyu ★★★★★ ()
Ответ на: комментарий от andreyu

что оптимизация «x > x+1 всегда false»

unsigned x

Там в статье — про «signed integer overflow». Он UB, а unsigned — нет.

i-rinat ★★★★★ ()
Ответ на: комментарий от aureliano15

Вот пример программы с неопределённым поведением (по стандарту нельзя полагаться на то, что при целочисленном переполнении результат сложения будет меньше любого из операндов)

Анскильная лалка не могла не облажаться.

anonymous ()
Ответ на: комментарий от ckotinko

сдвиг вправо

соответственно, UB

Вторая анскильная лалка тоже не могла не облажаться.

В сдвиге вправо не UB, а ID.

anonymous ()
Ответ на: комментарий от kawaii_neko

Мне кажется абсурдным, что кодер молча выдаёт UB.

anonymous ()
Ответ на: комментарий от i-rinat

Там в статье — про «signed integer overflow». Он UB, а unsigned — нет.

Тогда вопрос снят.

andreyu ★★★★★ ()

Юродивый продолжает юродствовать.

anonymous ()

1) В процессорах itanium регистры были 65-битными, последний бит назывался NaT и процессор ронял программу при попытке доступа к регистру с таким проставленным битом. Только это разрушает наивное представление местных борцов с компиляторами о том, что в переменной могут быть только какие-то битики, имеющие какие-то значения.

2) Большинство волнующих вас примеров UB возникают только при некоторых стечениях динамических обстоятельств, которые при статическом анализе не отличаются от случаев, очевидно требующих оптимизации.

Поясню примером.

void f(int *p) {
  if (!p) return;
  *p = 1;
  if (!p) return;
  *p = 2;
  if (!p) return;
  *p = 3;
  if (!p) return;
  printf("%d\n", *p);
}
Любой компилятор, очевидно, должен выкинуть все if кроме первого, так как ему легко убедиться в том, что p != nullptr со второй строки включительно.

Разыменование указателя *p — это такое же сообщение компилятору о диапазоне значения p, как и if (!p) return. Почему сотни нормальных программистов, пишущих функции с предусловием вида «аргумент не нулевой» должны страдать из-за кучки криворуких разыменовывателей нулевых указателей, считающих, что они разбираются в устройстве процессора?

Аналогично присутствие в программе ++x для переменной x типа int говорит компилятору о том, что x != INT_MAX, и можно делать следующие из этого оптимизации.

И хочется ещё раз процитировать и полностью согласиться со словами анонима выше:

It turns out that C is not a «high level assembler» like many experienced C programmers (particularly folks with a low-level focus) like to think

Корень проблем сишников типа ТС и ckotinko - то что в 2017 до них начинает доходить то что написано в C89. C был макроассемблером в 70-е, и тут мелькал говнокод который тогда писали. Вам примерно в то время.

vzzo ★★★ ()
Ответ на: комментарий от i-rinat

А это вообще можно описать достаточно формально, чтобы по описанию можно было построить оптимизатор?

Запросто: делай что написано и будь что будет.

Оптимизатор предполагает, что P указывает только на массив float. А это значит, он не может указывать на то место, где хранится само значение P. Поэтому в zero_array можно предположить, что P не поменяется.

Дичь какая. Вовсе не по этому. Вы можете в обработчике прерывания поменять P? Можете. Должен ли оптимизатор это учитывать? Нет. Ибо нет volatile в описании P. А уж float оно или не float — совершенно по барабану.

vodz ★★★★★ ()
Ответ на: комментарий от i-rinat

if (i + 1 < i) { // как узнать, нормально это или уже нет?

в нашем случае - очень просто. если мы не берем в расчет возможность переполнения, то алгебра операций типа сложения-вычитания-умножения-деления с int совпадает с алгеброй целых чисел из матана. и поэтому-то можно сказать что мы оптимизируем выражение «i + 1 < i» по правилам алгебры целых чисел. в частности, она говорит, что если a < b, то а+с < b+c, а значит i+1<i ~ i-i+1<i-i ~ 1<0 ~ ложь.

и не надо изобретать велосипед. операции сдвига и булевых операций в алгебре целых чисел нет, ибо он недвоичный, и следовательно оптимизировать «как в алгебре целых чисел» их нельзя и на UB ссылаться тоже нельзя.

ckotinko ☆☆☆ ()
Ответ на: комментарий от ckotinko

и поэтому-то можно сказать что мы оптимизируем выражение «i + 1 < i» по правилам алгебры целых чисел

Не знаю, как тебе, а мне такое не нужно. В простых случаях оно будет спамить, в сложных случаях без поллитры не разобраться, что оно имело в виду. В итоге все просто отключат это предупреждение и больше никогда не включат.

i-rinat ★★★★★ ()
Ответ на: комментарий от i-rinat

а с чего там спамить? одно выражение - одно ругательство.

ckotinko ☆☆☆ ()
Ответ на: комментарий от vodz

Запросто: делай что написано и будь что будет.

Так в документе запишем?

                    Стандарт языка СИ.

Компилятор должен делать, что написано. И будь что будет.


                     Приложение А.

Приложение А — единственное. Больше приложений нет.
i-rinat ★★★★★ ()
Ответ на: комментарий от proud_anon

pointer == 0 истинно если и только если pointer == NULL

Что 0, что NULL при касте к типу указателя преобразуются к null pointer value.

anonymous ()
Ответ на: комментарий от vzzo

В процессорах itanium регистры были 65-битными

А почему «были»?

anonymous ()
Ответ на: комментарий от vzzo

В процессорах itanium регистры были

Почему были то? У нас весь продакшн на них.

последний бит назывался NaT и процессор ронял программу при попытке доступа к регистру с таким проставленным битом.

К Cи это никакого отношения не имеет. Это если вы на ассемблере вдруг обратились к неинициализированному регистру. Это только оптимизатор может получить от этого пользу, делая спекулятивные загрузки.

vodz ★★★★★ ()
Ответ на: комментарий от ckotinko

Ну ok. Думаю, ты не представишь себе, сколько будет этих предупреждений (одно на выражение), пока не увидишь, а не увидишь никогда, потому что никто, включая тебя, это не будет реализовывать. И поэтому спор будет бесконечный.

i-rinat ★★★★★ ()
Ответ на: комментарий от i-rinat

на практике это можно ограничить до 1 на пару (файл,строка). делаешь оптимизацию такого рода - будь добр, в лог кинь уведомление. Лог же должен вести map таких уведомлений и постфактум выдавать ворнинги: на такой-то строке UB

ckotinko ☆☆☆ ()
Ответ на: комментарий от vzzo

присутствие в программе ++x для переменной x типа int говорит компилятору о том, что x != INT_MAX, и можно делать следующие из этого оптимизации

https://godbolt.org/g/kUHzmi clang не хочет делать :(

anonymous ()
Ответ на: комментарий от i-rinat

Так в документе запишем?

А что, формальнее некуда. Будь что будет это и есть UB. Но делать не то, что написано без отключения этого по опции - это «мы лучше вас знаем, что вы написали». Оба топика ровно о том, что оптимизатор выкинул явно написанный call [var], так как он посчитал, что программист не хотел проверить, что будет в результате UB, да хоть пошагово в отладчике. Ну вот захотелось и родился пример на который тут не стихает срач. А откуда он бы вязался этот пример бы, если был реализован мой девиз?

vodz ★★★★★ ()
Ответ на: комментарий от ckotinko

то алгебра операций типа сложения-вычитания-умножения-деления с int совпадает с алгеброй целых чисел из матана

По модулю! С такой оговоркой i + 1 < i вполне может выполняться.

kawaii_neko ★★★ ()
Ответ на: комментарий от kawaii_neko

По модулю работают unsigned. signed — это ℤ.

anonymous ()
Ответ на: комментарий от ckotinko

на практике это можно ...

Такое нужно подкреплять примерами. Абстрактными рассуждениями далеко не уедешь. Тебе явно это всё очевидно, а вот мне — нет.

i-rinat ★★★★★ ()
Ответ на: комментарий от Iron_Bug

понимать то должен, но все мы люди. Поэтому софт должен нам помогать.

zamazan4ik ★★ ()
Ответ на: комментарий от zamazan4ik

вопрос в цене реализации этих второстепенных плюшек. радикальное усложнение и замедление процесса компиляции ради пары сообщений для невнимательных разработчиков - на это никто не пойдёт. да и не нужно. нельзя идти на поводу у юзеров. для компилятора важно качество кода на выходе, в первую очередь. всё прочее - второстепенно.

Iron_Bug ★★★★ ()
Последнее исправление: Iron_Bug (всего исправлений: 2)
Ответ на: комментарий от zamazan4ik

Во многих очевидных случаях, вроде обращения к неинициализированной переменной, clang предупреждает.

anonymous ()
Ответ на: комментарий от aureliano15

1. Неопределённое поведение нужно для того, чтоб программы работали на любом железе без костылей (например, в цикле статей совершенно справедливо упоминается разная реализация сдвигов на разном железе), в разных системах без костылей (например, защищённый режим Linux и реальный DOS), ну и чтобы дать некоторую свободу компиляторам оптимизировать код. Но оптимизировать, а не портить!

Такие поведения называются в стандартах как unspecified и implementation-defined behaviour. UB же нужно только для оптимизаций. UB в сдвигах выбрано как минимальный функционал всех реализаций и это позволяет не делать костыли на платформах, которые не умеют больше этого минимума.

anonymous ()
Ответ на: комментарий от anonymous

Да весь этот спор оттого что несколько человек не выучило базовые термины, и теперь сочиняет мифы о том что они значат на самом деле.

В компиляторах тоже нуль, зато смотри сколько полезных советов Крису и co.

anonymous ()

Компиляторный разраб прокомментировал этот пост у меня в ФБ так:

«Автор статьи не понимает смысла „Undefined behavior“ в стандартах C/C++ и зачем это нужно. Ну и „они реализовали какую-то дичь с этими оптимизациями, объясняя некоторые причины: что де оптимизатор не знает, что на входе получает компилятор и даже не знает, что получает он сам на предыдущем проходе“ - это прям каноничный способ построения компиляторов, с помощью которого построены все современные компиляторы, в том числе gcc.»

stevejobs ★★★☆☆ ()
Ответ на: комментарий от vodz

Почему были то? У нас весь продакшн на них.

Хорошо, есть :)

К Cи это никакого отношения не имеет.

Это иногда стреляет в ногу, когда забываешь вернуть что-то из функции, могло бы стрелять в ногу при использовании неинициализированных переменных.

vzzo ★★★ ()
Ответ на: комментарий от stevejobs

а вот я с тобой согласен, что надо бить морду разрабам стандарта и компиляторов(ты это более красиво сформулировал где-то ранее). компилятор это инструмент. он должен ворнинги выводить например. ну он же делает так в ряде случаев типа if (x=5) //вы имели ввиду x==5?

собственно, главная претензия к UB именно в том, что оно возникает тихо. Ок, для int явно прописано что нельзя переполняться. Но подобных моментов не так уж и много и они формализуемые. А вот null pointer сообщать надо ибо это уже существенное отклонение от видимого кода программы.

Ибо: UB изначально было «мы делаем очень конкретный код, но на разных процах последствия вот этого и этого разные». Это было изначально, и null pointer именно что по разному себя вел на PDP11 и VAX. На PDP11 в «нуле» регистры сидят, и нулевой регистр всегда ноль дает. Нынче это: раньше было PDP11 и поэтому у наc UB и поэтому если что то мы за себя не отвечаем.

ckotinko ☆☆☆ ()
Ответ на: комментарий от ckotinko

собственно, главная претензия к UB именно в том, что оно возникает тихо. Ок, для int явно прописано что нельзя переполняться. Но подобных моментов не так уж и много и они формализуемые. А вот null pointer сообщать надо ибо это уже существенное отклонение от видимого кода программы.

int c = a + *b;
// Ворнинг: сложение может переполниться. Рекомендуем выполнить сложение в типе long long и проверить результат. 
// Ворнинг: b может быть равен nullptr. Рекомендуем добавить проверку.
// Ворнинг: a может быть не инициализирован. Пожалуйста, проверьте все динамические пути работы программы, ведущие к данной строке, и убедитесь, что а всегда инициализирован.
// Ворнинг: c используется только в cout на следующей строке и поэтому не будет сохранён на стек. 
// Ворнинг: убедитесь, что указатель b не нарушает правила strict aliasing.
// Ворнинг: убедитесь, что указатель b не был получен выделением динамической памяти, но уже освобождён, либо получен из фрейма уже завершившейся функции.
vzzo ★★★ ()
Ответ на: комментарий от anonymous

Он вроде бы это использует в каких-то оптимизациях-векторизациях-разворачиваниях циклов, но не могу сказать точно: с той частью оптимизатора я не работал.

vzzo ★★★ ()
Ответ на: комментарий от vzzo

Ворнинг: c используется только в cout на следующей строке и поэтому не будет сохранён на стек

Ну это-то к UB не относится

anonymous ()
Ответ на: комментарий от anonymous

Ну это-то к UB не относится

«Я спустился отладчиком на 100 строк ниже в этой функции, попросил распечатать c, а он не может. Злой конпелятор меня ненавидит, украл моё значение, наверно он увидел переменную типа int и сделал ub!11»

vzzo ★★★ ()
Ответ на: комментарий от ckotinko

Ибо: UB изначально было «мы делаем очень конкретный код, но на разных процах последствия вот этого и этого разные».

Не, такого никогда не было, по крайней мере всю твою жизнь. Наезд на UB всегда делало программу невалидной. Мельчаешь, раньше боролся с JD в СТО и ОТО, теперь со стандартами споришь.

anonymous ()
Ответ на: комментарий от vzzo

блъ. вот есть люди, которым бесполезно словами что-то объяснять.

я мог бы сказать, что компиляторы уже давно выдают ворнинги на неинициализованные переменные. я мог бы намекнуть тебе что надо прочитать мой коммент, который ты процитировал. хотя бы один раз прочитать его. но зачем...

просто надо видимо сделать нормальный С++ для людей, а вы дальше как нибудь сами. а спорить не надо - просто вы другие. у вас свой собственный внутренний мир где глючить можно и нужно. ну зачем тут возражать. есть же люди которые говно жрут. может им не хватает каких-то микроэлементов.

ckotinko ☆☆☆ ()
Ответ на: комментарий от ckotinko

просто надо видимо сделать нормальный С++ для людей

Конечно, надо. Но вы не сможете. А кто сможет, тем это не надо (или надо, но не поэтому).

anonymous ()
Ответ на: комментарий от ckotinko

просто надо видимо сделать нормальный С++ для людей,

забавно, что JetBrains в Clion не стало использовать clang, они пилят свой собственный парсер C++

stevejobs ★★★☆☆ ()
Ответ на: комментарий от stevejobs

И как минимум в одном статическом анализаторе используют свой парсер C++. Но всё это из инфраструктурных и политических соображений.

anonymous ()

ITT отголоски древней войны материалистов и идеалистов, физиков и лириков.

anonymous ()
Ответ на: комментарий от stevejobs

там может они на жаве пишут. шланг то тут как раз ни при чем, он парсер. а колбасят код уже плагины llvm

ckotinko ☆☆☆ ()
Ответ на: комментарий от ckotinko

так они на джаве и пишут. Дернуть из джавы C или C++ код - как нефиг делать. И уж точно по ресурсам бесконечно проще написания собственного парсера. Как тебе идея, что цели аннотирования кода для чтения программистами (особенно инкрементальная компиляция которая в оригинальном C++ вроде бы вообще невозможна, и следующая из этого необходимость строить вероятностные предположения для построения того же автодополнения) - противоположна созданию максимально эффективного кода с максимально глубокой и агрессивной (ранней) оптимизацией?

stevejobs ★★★☆☆ ()
Ответ на: комментарий от stevejobs

К синтаксическому разбору это всё не имеет отношения, он в любом случае более-менее одинаковый, ну разве что для аналитики могут прикручивать к AST больше полезной информации. Но тащить целый шланг с его зависимостями только для разбора явно перебор. Написать парсер не так уж сложно даже если писать всё руками.

anonymous ()
Ответ на: комментарий от stevejobs

я так думаю, что компиляция для распарсивания и генерации подсказок не нужна вообще. ни инкрементальная ни вообще никакая. требуется извлекать сигнатуры методов, функций, имена переменных в текущем scope и т.д. а компилировать-то зачем?

ckotinko ☆☆☆ ()
Ответ на: комментарий от ckotinko

ну, это может пригодиться. В Java-версии, Идея и Эклипс всегда отличалась тем, что создавали ощущение, что они знают язык и твою программу лучше, чем ты. Подсказки на тему «а вот этот кусок можно было бы написать проще, нажмите ctrl+enter для автоматического рефакторинга», или «на вашей задаче лучше ArrayList, чем LinkedList», или «вы написали слишком дофига цикломатической сложности, попробуйте переписать в ООП стиле» там - обычное дело. Всё это забэкано серьезным фоновым анализом, погугли «eclipse java compiler». Вопрос в том, насколько глубоко ты готов зайти с этими подсказками, возможно на определенном этапе тебе перестанет хватить просто сигнатур, и нужно будет в фоне откомпилировать в динамике какой-то кусок и посмотреть, как он себя ведет.

stevejobs ★★★☆☆ ()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.