Во первых в smb.conf должны быть две строчки:
client codepage = 866
character set = koi8-r
Если их там не было, то добавляем и пробуем...
Если не помогло, то возможны два варианта.
при использовании mount пробуем добавить параметр -o iocharset=koi8-r,codepage=866
Если не проходит, то IMHO надо ядро пересобирать с поддержкой cp866 (во всяком случае у меня после пересборки с именами все в порядке стало, а до этого ничего не помогало :)
Человек пишет, что по сети ходит. А там IMHO все равно какая FS на том конце стоит, все как smbfs видится.
А вот если локальный моунтить, то там конечно никаких codepage быть не должно ;)