問題
(1) 3次元実ベクトル空間において、媒介変数\(p,q\)によって定義される平面
\[ \begin{pmatrix}2\\0\\1\end{pmatrix}+p\begin{pmatrix}0\\-1\\1\end{pmatrix} +q\begin{pmatrix}3\\1\\0\end{pmatrix}\]
を考える。この平面を、\(\alpha\)を係数ベクトル、\(x\)を変数ベクトルとする方程式\(\alpha^Tx=1\)で表したとき、係数ベクトル\(\alpha\)の値を求めよ。
(2) 実数\(x,y,\alpha\)によって定義される不等式
\[ x^2+y^2+axy>0\]
を考える。この不等式が\(x=y=0\)を除くすべての\(x,y\)の組に対して成立するための必要十分条件を\(\alpha\)の範囲として求めよ。
(3) 正方の複素行列\(A\)がユニタリ行列によって対角化されるとき、\(AA^*=A^*A\)が満たされることを証明せよ。