Грешките са, че вместо името на променливите letter1, letter2 и mediumLetter в кода използвате multy-character константи 'letter1', 'letter2' и 'mediumLetter' които имплицитно се конверират до някакво число.

Оправеният код:

#include<iostream>

using namespace std;

int main() {
  char letter1, letter2, mediumLetter;
  cin >> letter1 >> letter2 >> mediumLetter;
  int counter = 0;

  for (char l1 = letter1; l1 <= letter2; l1++) {
    if (l1 != mediumLetter) {
      for (char l2 = letter1; l2 <= letter2; l2++) {
        if (l2 != mediumLetter) {
          for (char l3 = letter1; l3 <= letter2; l3++) {
            if (l3 != mediumLetter) {
              cout << l1 << l2 << l3 << " ";
              counter++;
            }
          }
        }
      }
    }
  }

  cout << counter << endl;