Du hast die Lösung doch schon in Deinem Buch stehen ;-)
Es muss dann gelten
AC⋅BC=0
a=⎝⎛32−1⎠⎞b=⎝⎛7−46⎠⎞c=⎝⎛6−2r4+r5+2r⎠⎞
Eingesetzt:
0=⎝⎛⎝⎛6−2r4+r5+2r⎠⎞−⎝⎛32−1⎠⎞⎠⎞⋅⎝⎛⎝⎛6−2r4+r5+2r⎠⎞−⎝⎛7−46⎠⎞⎠⎞
0=⎝⎛3−2r2+r6+2r⎠⎞⋅⎝⎛−1−2r8+r−1+2r⎠⎞
Jetzt musst Du nur doch das Skalarprodukt bilden, zusammenfassen und die Gleichung loesen.
Gruss