Както каза колегата по-горе, имаш недефинирана променлива във функция:

function rPasswordValidation(rPassword){
    if(password != rPassword){
        alert('Паролите не съвпадат');
        return false;
    }
    return true;
}

Забележи променливата rPassword, която съм болднал и подчертал. Нея можеш да  ползваш, защото си я подал като параметър на функцията. Но от къде идва променливата password? Нямаш я във функцията, нямаш я и като глобална. Тя съществува само във функцията formValidation и никъде другаде.

Представи си г като математическа функция f(x) = x ^ 2. Това е функция, на която подаваш Х и тя ти връща квадрата от Х. Чудесно, само че твоят пример изглежда като следната математическа функция f(x) = x + y. Подаваш хикс и тя ти връща сбора на Х със У. Чудесно, само че тази функция не знае за У и то е неизвестно.

Представено в код проблемът ти изглежда така

function sum() {
    var x = 4;
    var y = 6;
    sumTwoNumbers(y); // подаваш само Y (6)
}

function sumTwoNumbers(y) {
    console.log(x + y); // нямаме достъп до X
}

А неговото решение така:

function sum() {
    var x = 4;
    var y = 6;
    sumTwoNumbers(x, y); // подаваш Х и У
}

function sumTwoNumbers(x, y) {
    console.log(x + y); // имаш достъп до Х от параметрите на функцията
}