Sendmail не отправляет письма на один адрес

Прописать прямую A-запись.

domen.ru не мой, я думаю что в конфигах sendmail можно это настроить?

Надеюсь, что хост с шлимылом то Ваш? Тогда достаточно прописать в /etc/hosts (пример):

127.0.0.1     sub.domail.ru

Вот-вот. Что показывает host -t mx sub.domen.ru?

Юзай mailertable, Люк

127.0.0.1 sub.domail.ru

И сендмайл успешной забьет йух, потому как он реквестит MX-записи, и A-запись ищет только для найденого MX. Так что он скажет «извини, чувак, нету MX-записи!»

потому как он реквестит MX-записи, и A-запись ищет только для найденого MX.

Ну почему же. Если MX нет, он будет A-запись для sub.domail.ru искать... А там - cname...

Как запретить менять это для контретного домена sub.domen.ru?

http://www.rfc-editor.org/rfc/rfc2821.txt

3.6 Domains

Only resolvable, fully-qualified, domain names (FQDNs) are permitted
when domain names are used in SMTP. In other words, names that can
be resolved to MX RRs or A RRs (as discussed in section 5) are
permitted, as are CNAME RRs whose targets can be resolved, in turn,
to MX or A RRs.

То есть, он правильно делает, доводя разрешение CNAME до A.

Вот-вот. Что показывает host -t mx sub.domen.ru?

sub.domen.ru is an alias for domen.ru.

domen.ru mail is handled by 10 mx1.domen.ru.

domen.ru mail is handled by 20 mx2.domen.ru.

При наличии подконтрольного себе DNS-сервера и возможности указать почтовику использовать его любой домен может стать своим.