Ето как аз бих го направил.

1.Въвеждаш от конзолата стойността на х и у.
2.После бих направил 2 boolean-a  
   - 1вия ,когато е в кръга        (x - 1) * (x - 1) + (y - 1) * (y - 1) <= (1.5 * 1.5);
   -2рия ,когато е извън него    x > 1 || x < 6 && y > -1 || y < 2;   

3. И после правиш с if statements 
когато bool 1 и 2 са верни да ти изпише да - yes

ако не са верни 
т.е  else  - да ти изпише не - no

а да също така и примерно ,ако х и у са нули да ти изпише - не .

ПС: Малка поправка , втория булеан трябва да е , когато е извън триъгълника или там каквато фигура беше

1. Аз първо изчислявам хипотенузата на въображаемия триъгълник, който се образува при т.Х, т.У и т.К(1,1)

забележи, че центъра на координатната система не е центъра на кръга, т.е ще трябва от тук нататък да вадим "-1" от Х и У. (заложила съм да се получават абсолютни стойности (Math.Abs), за да не стане  отрицателно число и после грешка в събирането)

double hipo= Math.Sqrt(Math.Abs((x - 1) * (x - 1)) + (Math.Abs(y - 1) * (y - 1)));

2. Проверявам дали  точката е в окръжността като проверявам хипотенузата hipo дали е по-малка или равна на радиуса на кръга, т.е. 1,5

        bool insideCircle = hipo<=1,5

3. Проверявам дали точката е извън правоъгълника

        bool outsideRectangle = x>=-1 || x>=5 && y>=-1|| y>=1;

4. Ако и двата bool са true - отговор Yes

Тъй като гледам, че всички са ти разбрали въпроса правилно и въобще не са ти дали конкретно решение...

Това което ме интересува като въпрос не е някакво конкретно решение , а по-скоро, ако е удобно, да споделите как трябва да се действа при тази задача, говоря като стъпки.

Та, в тази задача като цяло има два подхода единият е "devide and conquer", този който са ти предложили колегите ти. 

Намираш дали точката се намира в едната фигура после тестваш дали я има в другата фигура и накрая събираш решенията. Използва се на много места в програмирането. Лошото е, че ако имаш един милион фигури и може и да не свърши много работа.

Вторият според мен тук е по удачен, а той е да намериш алгоритъм който ти решава проблема като цяло и да се опиташ да го имплементираш за конкретния случай. Това също е основнен дял в програмирането. Имаш проблем който не можеш да решиш, търсиш в нета намираш решение и се опитваш да го имплементираш за конретния проблем.

Може да направиш един сърч в гуглето. Point inside the polygon е добре известен проблем и хората му търсят решение отдавна. 

http://en.wikipedia.org/wiki/Point_in_polygon

Когато имах това домашно мъчих доста rey casting алгоритъма, и що горе заработи за задоволитен брой от случаите.

Имплементирането на чудж алгоритъм е изживяване което всеки програмист рано или късно трябва да изстрада :D

Колеги благодаря за предоставената информация. Сядам да се мъча да видя какви ще ги съчиня:)

Ако все пак ти е интересно да провериш дали е в триъгълник

bool b1,b2,b3;
b1 = ((ptX - v2X) * (v1Y - v2Y) - (v1X - v2X)*(ptY - v2Y) < 0.0f;
b2 = ((ptX - v3X) * (v2Y - v3Y) - (v2X - v3X)*(ptY - v3Y) < 0.0f;
b3 = ((ptX - v1X) * (v3Y - v1Y) - (v3X - v1X)*(ptY - v3Y)) < 0.0f;

Където:
-ptX и ptY са координатите на точката която проверяваш
-v1X, v1Y, v2X, v2Y, v3X и v3Y са координатите на върховете на триъгълника

Ако b1 е равно на b2 и b2 е равно на b3 зна4и е в триъгълника.

Осваналите стъпки са ти ги написали.