Актуальные примеры работы с OpenSSL API содержатся в Рутокен SDK

Примеры создания сертификата -\sdk\openssl\rtengine\samples\CreateCSR

Примеры расшифровки - \sdk\openssl\rtengine\samples\DecryptCMS

Примеры зашифровки - \sdk\openssl\rtengine\samples\EncryptCMS