Шифрование в JavaScript и дешифрование в PHP

Проблема в том, что в коде CryptoJS пароль используется для получения ключа и IV, которые будут использоваться для шифрования AES, но mcrypt использует ключ только для шифрования/дешифрования. Эту информацию нужно передать в php. Поскольку вы не хотите передавать пароль, вы должны точно так же получить ключ и IV в php.

Следующий код извлекает ключ и IV из пароля и соли. Он создан по образцу кода в моем ответе здесь (для получения дополнительной информации).

function evpKDF($password, $salt, $keySize = 8, $ivSize = 4, $iterations = 1, $hashAlgorithm = "md5") {
    $targetKeySize = $keySize + $ivSize;
    $derivedBytes = "";
    $numberOfDerivedWords = 0;
    $block = NULL;
    $hasher = hash_init($hashAlgorithm);
    while ($numberOfDerivedWords < $targetKeySize) {
        if ($block != NULL) {
            hash_update($hasher, $block);
        }
        hash_update($hasher, $password);
        hash_update($hasher, $salt);
        $block = hash_final($hasher, TRUE);
        $hasher = hash_init($hashAlgorithm);

        // Iterations
        for ($i = 1; $i < $iterations; $i++) {
            hash_update($hasher, $block);
            $block = hash_final($hasher, TRUE);
            $hasher = hash_init($hashAlgorithm);
        }

        $derivedBytes .= substr($block, 0, min(strlen($block), ($targetKeySize - $numberOfDerivedWords) * 4));

        $numberOfDerivedWords += strlen($block)/4;
    }

    return array(
        "key" => substr($derivedBytes, 0, $keySize * 4),
        "iv"  => substr($derivedBytes, $keySize * 4, $ivSize * 4)
    );
}

Соль генерируется во время шифрования в CryptoJS и должна быть отправлена ​​на php вместе с зашифрованным текстом. Перед вызовом evpKDF соль должна быть преобразована в двоичную строку из шестнадцатеричной.

$keyAndIV = evpKDF("Secret Passphrase", hex2bin($saltHex));
$decryptPassword = mcrypt_decrypt(MCRYPT_RIJNDAEL_128, 
        $keyAndIV["key"], 
        hex2bin($cipherTextHex), 
        MCRYPT_MODE_CBC, 
        $keyAndIV["iv"]);

Если на сервер было отправлено только encryptedPassword.toString(), то перед использованием необходимо разделить соль и фактический зашифрованный текст. Это проприетарный формат, совместимый с OpenSSL, в котором первые 8 байтов являются «Salted__», следующие 8 байтов являются случайной солью, а остальные — фактическим зашифрованным текстом. Все вместе закодировано в Base64.

function decrypt($ciphertext, $password) {
    $ciphertext = base64_decode($ciphertext);
    if (substr($ciphertext, 0, 8) != "Salted__") {
        return false;
    }
    $salt = substr($ciphertext, 8, 8);
    $keyAndIV = evpKDF($password, $salt);
    $decryptPassword = mcrypt_decrypt(MCRYPT_RIJNDAEL_128, 
            $keyAndIV["key"], 
            substr($ciphertext, 16), 
            MCRYPT_MODE_CBC, 
            $keyAndIV["iv"]);

    // unpad (PKCS#7)
    return substr($decryptPassword, 0, strlen($decryptPassword) - ord($decryptPassword[strlen($decryptPassword)-1]));
}

То же самое можно сделать с расширением OpenSSL вместо Mcrypt:

function decrypt($ciphertext, $password) {
    $ciphertext = base64_decode($ciphertext);
    if (substr($ciphertext, 0, 8) != "Salted__") {
        return false;
    }
    $salt = substr($ciphertext, 8, 8);
    $keyAndIV = evpKDF($password, $salt);
    $decryptPassword = openssl_decrypt(
            substr($ciphertext, 16), 
            "aes-256-cbc",
            $keyAndIV["key"], 
            OPENSSL_RAW_DATA, // base64 was already decoded
            $keyAndIV["iv"]);

    return $decryptPassword;
}

Вы не можете расшифровать с помощью случайного вектора инициализации — вам нужно использовать тот же IV, с помощью которого данные были зашифрованы. Кроме того, IIRC, AES по умолчанию использует 8-битное представление зашифрованных данных, которые необходимо тщательно обрабатывать при передаче по HTTP.