กำหนดให้ fx=x3+ ax2+bx+3 และ gx=bx2+3x+a เมื่อ a และ b เป็นจำนวนจริง ถ้า f3=0 และ x-2 หาร fx มีเศษเหลือเท่ากับ 5 แล้วค่าของ g∘f1 เท่ากับเท่าใด
จากโจทย์ fx=x3+ax2+bx+3 f3=33+a32+b3+3-แทนค่า f3=0จะได้ 0=27+9a+3b+3 0=9+3a+b+1ดังนั้น 3a+b=-10→1จากโจทย์ x-2 หาร fx มีเศษเหลือเท่ากับ 5 x-2=0→x=2แสดงว่า f2=5 จากโจทย์ fx=x3+ax2+bx+3 f2=23+a22+b2+3-แทน f2=5จะได้ 5=8+4a+2b+3 2a+b=-3→2-จาก 1 และ 2 แก้ 2 สมการ 2 ตัวแปรจะได้ a=-7 , b=11→นำไปแทนใน fx และ gx fx=x3+ax2+bx+3 ; แทนค่า a, bจะได้ fx=x3-7x2+11x+3หา f1 ; f1=13-712+111+3 f1=8 gx=bx2-3x+a ; แทนค่า a , bจะได้ gx=11x2-3x-7ดังนั้น gof1=gf1 ; แทนค่า f1=8 =g8 =1182+38-7 =721