конвертировать сертификат из pem в jks

Вам неясно, какие файлы вы объединили, но использование openssl должно работать для объединения сертификата и закрытого ключа в PKCS # 12:

cat cert_public_key.pem cert_private_key.pem >combined.pem
openssl pkcs12 -export -in combined.pem -out cert.p12

или на лету, но (обновить :) сначала должен быть приватный ключ:

cat cert_private_key.pem cert_public_key.pem | openssl pkcs12 -export -out cert.p12 

Если вашему сертификату нужны какие-либо цепные сертификаты - CA должен был сообщить вам об этом, когда вы отправили CSR, и они выпустили сертификат - проще всего также включить его (их) сейчас.

Затем (1) некоторые программы Java могут фактически использовать pkcs12 непосредственно в качестве хранилища ключей, но (2) если вам нужен или предпочитаете JKS, используйте keytool:

keytool -importkeystore -srckeystore cert.p12 -srcstoretype pkcs12 -destkeystore cert.jks 

Если вам небезразличен псевдоним в получившемся JKS, проще всего исправить его после преобразования.

Также: простое изменение меток в зашифрованном PEM не расшифровывает его, равно как и изменение метки с общего PKCS # 8 на RSA фактически не изменяет данные для соответствия (и они разные, хотя и немного). Если вам нужен отдельный файл PEM с расшифрованным закрытым ключом:

openssl pkey -in encryptedpk8 -out clearpk8.pem # 1.0.0 up
openssl pkcs8 -in encryptedpk8 -out clearpk8.pem # 1.0.0 up 
openssl pkcs8 -topk8 -nocrypt -in encryptedpk8 -out clearpk8.pem # below 1.0.0
openssl rsa -in encryptedpk8 -out clearrsa.pem

Первый вопрос: у вас есть только запрос на сертификат? Не настоящий сертификат? Он должен быть подписан, вы можете подписать его самостоятельно или попросить подписать стороннее лицо.

Если у вас есть настоящий сертификат, вы можете использовать его для анализа файла закрытого ключа и файла сертификата:

// parse the private key
KeyFactory keyFactory = KeyFactory.getInstance("RSA"); // might not be RSA
PKCS8EncodedKeySpec spec = new PKCS8EncodedKeySpec(byteArray);
PrivateKey privateKey = keyFactory.generatePrivate(spec);

// parse cert
CertificateFactory factory = CertificateFactory.getInstance("X.509");
X509Certificate cert = factory.generateCertificate(certInputStream);

// add it to the keystore
store.setKeyEntry(alias, privateKey, password, new X509Certificate[] { cert });

ОБНОВЛЕНИЕ

Насколько мне известно, keytool командной строки не поддерживает никаких дополнительных параметров, таких как подписание csr. Даже стандартная java не поддерживает это, вам нужна внешняя библиотека, например надувной замок. Это непросто. Например:

JcaPKCS10CertificationRequest pkcs10 = new JcaPKCS10CertificationRequest(csrBytes);
X509v3CertificateBuilder builder = new JcaX509v3CertificateBuilder(
        issuer,
        generateSerialId(),
        new Date(),
        until,
        subject,
        pkcs10.getPublicKey()
);

X509CertificateHolder holder = builder.build(getContentSigner(privateKey, type));
X509Certificate cert = getCertificate(holder);

...

ContentSigner getContentSigner(PrivateKey privateKey) {
    AsymmetricKeyParameter keyParameter = PrivateKeyFactory.createKey(privateKey.getEncoded());
    AlgorithmIdentifier sigAlgId = new DefaultSignatureAlgorithmIdentifierFinder().find("SHA256WITHRSA"); // or what you want
    AlgorithmIdentifier digAlgId = new DefaultDigestAlgorithmIdentifierFinder().find(sigAlgId);
    return new BcRSAContentSignerBuilder(sigAlgId, digAlgId).build(keyParameter);
}