Deine II. Gleichung ist falsch. Da fehlt der Faktor 2.
Wenn du es mit dem Gauß-Verfahren auf Stufenform bringst müssest du am Ende auf die Gleichung
$$ (-7+ \alpha) \alpha_3 = 0 $$
kommen (wenn ich das im Kopf richtig überschlagen habe, müsste aber stimmen). Das bedeutet wenn \(\alpha = 7\) ist, hat das LGS unendlich viele Lösungen (da \(\alpha_3\) beliebig sein kann) und somit wären die Vektoren linear abhängig.
Find ich persönlich umständlich, hier wie ich es gerechnet habe:
Da die ersten beiden Vektoren linear unabhängig sind suchst du die eindeutige Linearkombination, so dass
2a + 3b = 17
a+2b = 10
3a + 5b = 20 + \(\alpha\).
Aus den ersten beiden Gleichungen geht schon hervor, dass a=4 und b=3 sein muss , eingesetzt in die dritte Gleichung findest du raus, dass dann \(\alpha=7\) ist, womit dies der einzige Fall wäre für den die 3 Vektoren linear abhängig sind.