Die allgemeine Form einer Geradengleichung sieht so aus:
y = m x + b
Die Steigung m = 3 / 5 hast du schon richtig berechnet. Nun musst du noch den y-Achsenabschnitt b berechnen. Löse dazu die allgemeine Form nach b auf:
b = y - m x
setze die Koordinaten eines der Punkte A oder B (ich nehme B) sowie den Wert der Steigung m = 3 / 5 in diese Gleichung ein:
b = 8 - ( 3 / 5 ) * 12
und rechne b aus:
b = 4 / 5
Setze nun die Werte der Parameter m = 3 / 5 und b = 4 / 5 in die allgemeine Form einer Geradengleichung ein:
y = ( 3 / 5 ) x + ( 4 / 5 )
Das ist die Gleichung der Geraden, die durch die angegebenen Punkte verläuft.
Der Punkt B ( 5 | 3,7 ) liegt genau dann auf der Geraden, wenn seine Koordinaten die soeben berechnete Gleichung erfüllen, also einsetzen:
3,7 = ( 3 / 5 ) * 5 + ( 4 / 5 )
<=> 3,7 = 3 + ( 4 / 5 )
<=> 3,7 = 3,8
Das ist eine falsche Aussage, also liegt der Punkt B ( 5 | 3,7 ) nicht auf der Geraden durch A und C.
Gesucht ist nun y, sodass der Punkt B ' ( 5 | y ) auf der Geraden liegt, also die Geradengleichung :
y = ( 3 / 5 ) * 5 + ( 4 / 5 )
erfüllt. Ausrechnen ergibt:
<=> y = 3 + 0,8
<=> y = 3,8
Die y-Koordinate von Punkt B muss also 3,8 statt 3,7 sein, dann liegt der Punkt auf der Geraden.