Подскажите либу для подписывания данных желательно с одновременным шифрованием

совместимость с pgp OR gnupg не обязательна

А чем собственно сам gpg не подходит? Можно взять его либы и хедеры. Или OpenSSH.

остановились на gpgme

кстати а как можно применить openssh?

дык так же. один хрен алгоритмы для шифрования и подписи там используются. наверняка предоставлены удобные интерфейсы для из использования.