Не спазвае тази част от условието:

If he tries to move outside of the field, he is punished - he loses the last letter in the string, if there are any, and the player’s position is not changed.

Например:

    private static void up(char[][] matrix) {
        if (wormRow == 0){
            if (matrix[matrix.length - 1][wormCol] == '-'){
                if (worm.length() > 0){
                    worm = worm.substring(0, worm.length() - 1);
                }
            } else {
                matrix[matrix.length - 1][wormCol] = '-';
            }
        } else {
           // ...
        }
    }

// трябва да стане:

    private static void up(char[][] matrix) {
        if (wormRow == 0){
            if (!worm.isEmpty()) {
                worm = worm.substring(0, worm.length() - 1);
            }
        } else {
           // ...
        }
    }

Аналогично и за останалите 3 метода за движение.