a) Sei a ∈ ker(α). Dann ist α(a) = 0 und somit (β°α)(a) = β(α(a)) = β(0) = 0, also a ∈ ker(β°α). Unabhängig von B ist also ker(α) ⊆ ker(β°α). Führt nun die Invertierbarkeit von B dazu, dass auch ker(β°α) ⊆ ker(α) ist, dann ist ker(α) = ker(β°α).
Falls du glaubst, dass das eben nicht so ist, dann zeigst du das am einfachsten indem du ein konkretes Gegenbeispiel angiebst.
Falls du glaubst, dass das so ist, dann zeigst du das am besten so, wie man üblicherweise Teilmengenbeziehungen zeigt: "Sei b ∈ ker(β°α). Dann ... . Also b ∈ ker(α)."
b) "Da A nur die Nullmatrix ist, ..."
Das stimmt nicht. A ist eine sogenannte nilpotente Matrix. Nicht nur die Nullmatrix ist nilpotent, sondern zum Beispiel auch $$A := \begin{pmatrix}5&-3&2\\15&-9&6\\10&-6&4\end{pmatrix}$$ weil \(A^2 = 0\) ist.
c) "da Ax=b lösbar ist, ist Determinante nicht 0"
Das stimmt nicht. Die Gleichung $$\begin{pmatrix}0&0\\0&0\end{pmatrix}\cdot \begin{pmatrix}x\\y\end{pmatrix} = \begin{pmatrix}0\\0\end{pmatrix}$$ ist lösbar obwohl die Determinante 0 ist.