Seja A uma matriz simétrica e a forma quadrática associada. Suponha que A não tenha autovalores nulos e que A possua pelo menos um autovalor positivo e um autovalor negativo. Então:
(a) Existem infinitos vetores x tais que
(b) Para todo x não nulo,
(c) Dependendo de A, pode existir ou não um vetor x não nulo tal que
(d) Para todo x não nulo,
Passo 1
A classificação das formas quadráticas pode ser feita através do sinal dos autovalores da matriz que está associada a ela.
No caso dessa questão, vamos olhar para os autovalores da matriz A.
Sabemos que ela tem autovalores positivos e negativos, mas nenhum autovalor nulo.
Logo, a forma quadrática é indefinida.
E se ela é indefinida, por definição, temos que pode assumir valores positivos e negativos, e aí já eliminamos a alternativa (d), que diz que ela é sempre positiva.
Passo 2
Vamos pegar um exemplo qualquer de uma forma quadrática desse tipo.
Por exemplo, vamos considerar:
E a forma quadrática:
A matriz A é diagonal, então seus autovalores são os elementos da diagonal principal, que são 4 e -5.
Como tem autovalor positivo e negativo (e nenhum igual a zero), essa forma quadrática é indefinida.
Beleza, a expressão dela é:
Vamos tentar resolver
Ou seja, os vetores que zeram essa forma quádrica são do tipo:
E existem infinitos vetores dessa forma, então a resposta vai ser a letra (a)!
Resposta
(a) Existem infinitos vetores x tais que