printf(«%.2G\n», s);

из man 3 printf:

       g,G    The double argument is converted in style f or e (or
              F or E  for G  conversions).

в чем вопрос-то?
NAN есть Not-A-Number. RTFM, man 3 isnan

Мне это ни о чём не говорит. Почему иногда нормальное число, а иногда экспонента?

Может, все-таки man 3 printf не слабо почитать, а???

Оттуда (раздел про g,G)
...
Style e is used _if the exponent from its conversion is less than -4_ or greater than or equal to the precision.
...