Как получить IV и ключ к crypto.createCipheriv для расшифровки?

Для начала, причина, по которой вы не получаете желаемого результата, заключается в том, что ваш код C действительно использует EVP_BytesToKey, тогда как ваш код NodeJS использует PBKDF2. Я думаю, вы могли неправильно понять рекомендацию OpenSSL. Они рекомендуют PBKDF2 не как лучший способ получить тот же результат, а как лучший способ решить проблему. PBKDF2 — это просто лучшая функция получения ключа, но она не даст такого же результата, как EVP_BytesToKey.

Кроме того, то, как вы обращаетесь со своим поколением IV, в первую очередь, довольно плохо. Использование KDF для генерации вашего ключа превосходно, молодец. Откровенно говоря, использование KDF для генерации IV — довольно плохая идея. Ваши первоначальные показания, в которых вы обнаружили, что случайная генерация IV является хорошей идеей, верны. Все IV/нонсы должны генерироваться случайным образом. Всегда. Здесь важно помнить, что IV не является секретом. Вы можете пройти его публично.

Большинство реализаций будут случайным образом генерировать IV, а затем добавлять его к зашифрованному тексту. Затем, когда дело доходит до расшифровки, вы можете просто удалить первые 128-битные (AES) байты и использовать их в качестве IV. Это охватывает все ваши основы и означает, что вам не нужно получать свой IV из того же места, что и ключевой материал (что противно).

Для получения дополнительной информации см. примеры в этом репозитории GitHub. Ниже я включил NodeJS, который является примером передового современного шифрования в NodeJS:

const crypto = require("crypto");

const ALGORITHM_NAME = "aes-128-gcm";
const ALGORITHM_NONCE_SIZE = 12;
const ALGORITHM_TAG_SIZE = 16;
const ALGORITHM_KEY_SIZE = 16;
const PBKDF2_NAME = "sha256";
const PBKDF2_SALT_SIZE = 16;
const PBKDF2_ITERATIONS = 32767;

function encryptString(plaintext, password) {
    // Generate a 128-bit salt using a CSPRNG.
    let salt = crypto.randomBytes(PBKDF2_SALT_SIZE);

    // Derive a key using PBKDF2.
    let key = crypto.pbkdf2Sync(new Buffer(password, "utf8"), salt, PBKDF2_ITERATIONS, ALGORITHM_KEY_SIZE, PBKDF2_NAME);

    // Encrypt and prepend salt.
    let ciphertextAndNonceAndSalt = Buffer.concat([ salt, encrypt(new Buffer(plaintext, "utf8"), key) ]);

    // Return as base64 string.
    return ciphertextAndNonceAndSalt.toString("base64");
}

function decryptString(base64CiphertextAndNonceAndSalt, password) {
    // Decode the base64.
    let ciphertextAndNonceAndSalt = new Buffer(base64CiphertextAndNonceAndSalt, "base64");

    // Create buffers of salt and ciphertextAndNonce.
    let salt = ciphertextAndNonceAndSalt.slice(0, PBKDF2_SALT_SIZE);
    let ciphertextAndNonce = ciphertextAndNonceAndSalt.slice(PBKDF2_SALT_SIZE);

    // Derive the key using PBKDF2.
    let key = crypto.pbkdf2Sync(new Buffer(password, "utf8"), salt, PBKDF2_ITERATIONS, ALGORITHM_KEY_SIZE, PBKDF2_NAME);

    // Decrypt and return result.
    return decrypt(ciphertextAndNonce, key).toString("utf8");
}

function encrypt(plaintext, key) {
    // Generate a 96-bit nonce using a CSPRNG.
    let nonce = crypto.randomBytes(ALGORITHM_NONCE_SIZE);

    // Create the cipher instance.
    let cipher = crypto.createCipheriv(ALGORITHM_NAME, key, nonce);

    // Encrypt and prepend nonce.
    let ciphertext = Buffer.concat([ cipher.update(plaintext), cipher.final() ]);

    return Buffer.concat([ nonce, ciphertext, cipher.getAuthTag() ]);
}

function decrypt(ciphertextAndNonce, key) {
    // Create buffers of nonce, ciphertext and tag.
    let nonce = ciphertextAndNonce.slice(0, ALGORITHM_NONCE_SIZE);
    let ciphertext = ciphertextAndNonce.slice(ALGORITHM_NONCE_SIZE, ciphertextAndNonce.length - ALGORITHM_TAG_SIZE);
    let tag = ciphertextAndNonce.slice(ciphertext.length + ALGORITHM_NONCE_SIZE);

    // Create the cipher instance.
    let cipher = crypto.createDecipheriv(ALGORITHM_NAME, key, nonce);

    // Decrypt and return result.
    cipher.setAuthTag(tag);
    return Buffer.concat([ cipher.update(ciphertext), cipher.final() ]);
}