A lässt sich ganz einfach lösen:
Bei Laplace geht es darum, dass du immer eine Spalte aussuchst und die Zeilen dieser möglichst viele Nuller erhalten. Ansonsten musst du z. B. erstmal eine Zeile von einer anderen abziehen bzw. addieren. Je nach dem.
In dem Fall hast du aber schon eine perfekte erste Spalte mit ganz vielen Nullern. Falls dir in anderen Aufgaben es nicht gelingt viele Nuller in einer Spalte zu errechnen, dann kannst du auch einfach mit den darin stehenden Zahlen rechnen, ist halt nur viel aufwendiger.
Jedenfalls nehmen wir hier die erste Spalte und die Zahlen darin werden jeweils als Multiplikatoren benutzt. Du solltest dir auf jedenfalls Grundlagen diesbezüglich anschauen. In der ersten Spalte und Zeile ist das Vorzeichen von dem Multiplikator immer ein +, dann erste Spalte und zweite Zeile ein minus und so weiter.
Das sieht dann so aus, wenn du es ausschreibst:
$$ 5*\left( \begin{matrix} 3 & -1 & 0 \\ 0 & 8 & 0 \\ 0 & 8 & 5 \end{matrix} \right) \quad -\quad 0*\left( \begin{matrix} 2 & 1 & 1 \\ 0 & 8 & 0 \\ 0 & 8 & 5 \end{matrix} \right) +0*\left( \begin{matrix} 2 & 1 & 1 \\ 3 & -1 & 0 \\ 0 & 8 & 5 \end{matrix} \right) -0*\left( \begin{matrix} 2 & 1 & 1 \\ 3 & -1 & 0 \\ 0 & 8 & 0 \end{matrix} \right) $$
Die Nuller kannst du ja praktisch weglassen, weil = 0;
Also:
$$ 5*\left( \begin{matrix} 3 & -1 & 0 \\ 0 & 8 & 0 \\ 0 & 8 & 5 \end{matrix} \right) $$
Nun machst du dasselbe wie oben mit der 3x3 Matrix. Nehmen wir dieses Mal wieder die 1. Spalte.
$$ 5*\left( (3*\begin{pmatrix} 8 & 0 \\ 0 & 5 \end{pmatrix}) \right) ) $$
Nun rechnest du einfach die 2x2 Matrix aus bzw. die Determinante davon, also: 8*5 - 0*0 = 40
5*((3*40) = 600
Ergebnis ist: det(A) = 600
Die Antwort auf die Frage ob Null ein Eigenvektor von A ist, lautet: Nein, sobald die det != 0 ist bzw. die Matrix invertierbar, kann der Eigenwert nicht null sein.
So, damit hast du schonmal die erste Aufgabe :).