Dado que x é um número positivo, tal que x^2=1-x, podemos afir...

Primeiro passo é organizar essa equação quadrática:
x² = 1 - x
x² + x - 1 = 0

Segundo passo é tirar as raízes:
x = (-b ± √b² - 4ac) / 2*a
x = (-1 ± √1 - 4(1)(-1)) / 2*1
x = (-1 ± √5) / 2
x1 = (-1 + √5) / 2
x2 = (-1 - √5) / 2

Terceiro passo, substituir o valor (pode escolher qualquer um dos dois valores que vai dar a mesma coisa, apenas sinais invertidos) de x encontrados na fórmula da questão (x^2 = 1 – x): 

x^2 = 1 – x
((-1 + √5) / 2)² = 1 - (-1 + √5) / 2)
0,38 = 0,38

Provamos aqui que a fórmula x^2 = 1 – x é verdadeira.
Quarto passo, substituir o mesmo valor de x usado no terceiro passo na fórmula x^5:

x^5 = ((-1 + √5) / 2)^5 = 0,09
Sabemos agora o valor de x^5.

Quinto passo, substituir o valor de x nas alternativas e conferir qual que dará o mesmo resultado de x^5, ou seja, 0,09:

a) 5x + 3 =
5(((-1 + √5) / 2)) + 3 =
6,09 (Não é o mesmo resultado, logo o item é falso)

b) 5x - 3 =
5(((-1 + √5) / 2)) - 3 =
0,09 (Item verdadeiro, pois este é o mesmo valor de x^5)