Wenn A invertierbar ist, gibt es nur eine einzige Lösung, die triviale Nullösung. Du sollst also p so bestimmen, dass A nicht invertierbar ist. Dies kann man auf mehrere Arten machen, ich mache es über die Determinante.
$$\det(\underline A)=3\cdot 1\cdot p+2\cdot1\cdot2+1\cdot 1\cdot1-1\cdot1\cdot2-1\cdot1\cdot3-2\cdot1\cdot p=3p+4+1-2-3-2p=p$$
Offensichtlich ist das genau dann Null, wenn p Null ist. Dann muss man a,b,c so finden, dass
$$\begin{pmatrix}3\\2\\1\end{pmatrix}a+\begin{pmatrix}2\\1\\1\end{pmatrix}b+\begin{pmatrix}1\\1\\0\end{pmatrix}c=\begin{pmatrix}0\\0\\0\end{pmatrix}$$
Lösen dieses Gleichungssystems ergibt: \(a=a,\ b=-a,\ c=-a\).
Probe:
$$\begin{pmatrix}3\\2\\1\end{pmatrix}a-\begin{pmatrix}2\\1\\1\end{pmatrix}a-\begin{pmatrix}1\\1\\0\end{pmatrix}a=\begin{pmatrix}3-2-1\\2-1-1\\1-1-0\end{pmatrix}a=\begin{pmatrix}0\\0\\0\end{pmatrix}a$$
Also muss x die Form \(\underline x=\begin{pmatrix}a\\-a\\-a\end{pmatrix}=\begin{pmatrix}1\\-1\\-1\end{pmatrix}a\) haben, für a beliebig in \(\mathbb R\).
Oder, falls ihr diese Schreibweise gewohnt seid: \(\underline x \in\mathbb R\begin{pmatrix}1\\-1\\-1\end{pmatrix}\).