перевод 8-битного цвета в RGB

> r=(i&7)*36; 
> g=((i&56)>>3)*36; 
> b=((i&192)>>6)*64;

Возможно у вас i объявлено как int, тогда происходит знаковый сдвиг. Объявите i как unsigned. 

r=(i&7)*36; 
g=(((unsigned)(i&56))>>3)*36; 
b=(((unsigned)(i&192))>>6)*64;

даже лучше как unsigned char.

то же самое:(

Ну тут еще может быть то, что для r и g в выражении есть умножение на 36, где 36 - не степень 2-х. По идее дожно быть 32, что бы сдвинуть на 5 бит влево.

> rrrgggbb - если это битовая карта, то надо бы так:

r = (((unsigned char)(i & 0xE0)) >> 5) << 5;
g = (((unsigned char)(i & 0x1C)) >> 2) << 5;
b = (i & 3) << 6;

Упрощаю:

r = i & 0xE0;
g = (i & 0x1C)<<3;
b = (i & 3) << 6;