cos5θ=cos(3θ+2θ) =cos3θcos2θ-sin3θsin2θ =(4cos3θ-3cosθ)(2cos2θ-1)-(3sinθ-4sin3θ)(2sinθcosθ) =8cos5θ-4cos3θ-6cos3θ+3cosθ-(6sin2θcosθ-8sin4θcosθ) =8cos5θ-10cos3θ+3cosθ-(6sin2θcosθ-8sin4θcosθ)→1 โดย sin4θ=(sin2θ)2 =(1-cos2θ)2 =1-2cos2θ+cos4θ แทน sin4θ=1-2cos2θ+cos4θ ใน 1 จะได้ cos5θ=8cos5θ-10cos3θ+3cosθ-[61-cos2θcosθ-81-2cos2θ+cos4θcosθ]=8cos5θ-10cos3θ+3cosθ-[6cosθ-6cos3θ-8cosθ+16cos3θ-8cos5θ]=8cos5θ-10cos3θ+3cosθ-[-2cosθ+10cos3θ-8cos5θ]=16cos5θ-20cos3θ+5cosθจากโจทย์ cos5θ=acos5θ+bcos3θ+ccosθ จะได้ a=6 , b=20 , c=5ดังนั้น a2+b2+c2=162+(-20)2+52 =256+400+25 =681