Adding SSL encryption to vsftpd

tcpdump/wireshark

Для не особо одаренных как я проверю с помощью tcpdump/wireshark шифрование?

wireshark в достпном виде показывает трафик. Если трафик прозрачный, как это происходит в обычном случае http/ftp/smtp/pop3 etc, то там можно посмотреть пароли, логины и много другого. В случае с шифрованием - там будет в основном белиберда, расшифровке трафик не будет поддаваться. Я, правда, не помню, ssl+ftp шифрует только стадию аутентификации или весь трафик. Проверьте ftp соединение при включенном wireshark в обычном режиме vsftpd и с предполагамеым вами шифрованием. Наверно есть и более простые методы, но лень голову ломать :)

dsniff - пойдет? для этих целей

там sftp протокол и сертификаты ваш клиент должен держать этот протокол и как минимум мыслю ругатся, на сертификат подписаный самим сервером