Nun, deine Formel stimmt nicht (kam mir schon auf den ersten Blick merkwürdig vor).
Richtig ist:
cos(α) * cos(β) mal cos(γ) = -(1/4) * [ 1+cos(2*α) + cos (2*β) + cos (2γ) ]
Zeigen kann man das, indem man zunächst auf der linken Seite der Gleichung die Kosinusfuktionen durch ihre Längenverhältnisse ersetzt. Dazu nimmt man die drei Kosinussätze, die ja in jedem beliebigen Dreieck gelten, löst sie nach cos(α), cos(β) bzw. cos(γ) auf:
a 2 = b 2 + c 2 - 2 * b * c * cos ( α )
<=> cos ( α ) = ( a 2 - b 2 - c 2 ) / ( - 2 * b * c ) = ( b 2 + c 2 - a 2 ) / ( 2 * b * c )
b 2 = a 2 + c 2 - 2 * a * c * cos( β )
<=>cos ( β ) = ( b 2 - a 2 - c 2 ) / ( - 2 * a * c ) = ( a 2 + c 2 - b 2 ) / ( 2 * a * c )
c 2 = a 2 + b 2 - 2 * a * b * cos( γ )
<=>cos ( γ ) = ( c 2 - a 2 - b 2 ) / ( - 2 * a * b ) = ( a 2 + b 2 - c 2 ) / ( 2 * a * c )
und bildet dann das Produkt:
cos(α) * cos(β) * cos(γ)
= [ ( b 2 + c 2 - a 2 ) / ( 2 * b * c ) ] * [ ( a 2 + c 2 - b 2 ) / ( 2 * a * c ) ] * [ ( a 2 + b 2 - c 2 ) / ( 2 * a * c ) ]
bildet (ziemliche Rechnerei).
Damit ist die linke Seite der Gleichung berechnet.
Für die rechte Seite nimmt man die Doppelwinkelfunktion des cos, die da lautet:
cos ( 2 x ) = 2 * cos 2 ( x ) - 1
und ersetzt damit die entsprechenden Terme auf der rechten Seite der Gleichung. Man erhält:
- ( 1 / 4) * [ 1 + cos ( 2 * α ) + cos ( 2 * β ) + cos ( 2 γ ) ]
= - ( 1 / 4) * [ 1 + 2 * cos 2 ( α ) - 1 + 2 * cos 2 ( β ) - 1 + 2 * cos 2 ( γ ) - 1 ]
= - ( 1 / 4) * [ - 2 + 2 * ( cos 2 ( α ) + cos 2 ( β ) + cos 2 ( γ ) ) ]
= ( 1 / 2 ) [ 1 - ( cos 2 ( α ) + cos 2 ( β ) + cos 2 ( γ ) ) ]
Setzt man hier nun wieder die entsprechend aufgelösten Kosinussätze ein (siehe oben) und multipliziert man aus (wieder viel Rechnerei), dann erhält man den selben Term wie auf der oben ausgerechneten linken Seite der Gleichung.
Damit ist gezeigt, dass die in der Aufgabenstellung angegebene Gleichung unter den dort genannten Voraussetzungen gilt.