2x^2-x-36 - нужно разложить на множители.
получается (x+4)(2x-9)
Так как предполагается квадрат простого числа, то есть три варианта:
1) (x+4)=(2x-9) - простое число
в этом случае x=13 то есть x+4=17 и 2x-9=17
2) x+4=1, а 2x-9 - квадрат простого числа
х=-3 - в этом случае 2x-9=-15 (не квадрат и отрицательное)
3) 2x-9=1, а x+4-квадрат числа
x=5 x+4=9 квадрат 3
то есть получается, что 5 и 13.
Удачи.
Основная теорема систематики: Новые системы плодят новые проблемы.