Число 18 подайте у вигляді суми двох від’ємних чисел так, щоб сума їх квадратів була найменшою

Знак системи не ставил думаю сама разберёшса.
5x^2+y^2=61
15x^2+3y^2=61x

5x^2+y^2=61|*3
15x^2+3y^2-61x=0

15^2+3y^2=183| вычетаем
15^2+3y^2-61x=0

61x=183
x=3
5*3^2+y^2=61
y^2=16
y1=4;y2=-4
ответ: (3;4) (3;-4)

[-1;1] ......................