такое не знаю как решать, но похожее есть там достраиваешь до треугольника и y делишь на x и получаешь ответ... а знак определяеться по углу, если острый то знак+ исли тупой то зна - как то так