Ядро еще должно быть правильно собрано. NLS к самбе лучше не собирать в ядре, а сделать модулями.
В принципе, достаточно client code page = 866, чтоб заработало. Hо чтоб в самом линуксе на сабовских шарах видеть те же русские имена файлов, а не псевдографигу, то character set = koi8-r - для перекодировки.