กำหนดให้ ℝ แทนเซตของจำนวนจริง ให้ 𝑓 :ℝ-5→ℝ เป็นฟังก์ชัน โดยที่ 𝑓x=5x+3x-5 สำหรับจำนวนจริง x≠5 ค่าของ 𝑓-1∘𝑓-11 ตรงกับข้อใดต่อไปนี้
จากโจทย์ fx=5x+3x-5 ; fx=y y=5x+3x-5หา f-1x ต้องเปลี่ยน x→y และ y→xจะได้ x=5y+3y-5 xy-5=5y+3 xy-5x=5y+3 xy-5y=5x+3 yx-5=5x+3 y=5x+3x-5ดังนั้น f-1x=5x+3x-5→1 หาค่าของ f-1∘f-11=f-1f-11→2 ต้องหา f-11 ก่อนจาก 1 จะได้ f-1x=5x+3x-5 ; แทน x=1 f-11=51+31-5 f-11=8-4 f-11=-2 ; แทนใน 2จะได้ f-1∘f-11=f-1-2 ; แทน x=-2 ใน 1 =5-2+3-2-5 =-7-7 =1 พิจารณาตัวเลือก ; f(x)=5x+3x-51. f0=50+30-5=-352. f-1=5-1+3-1-5=-2-6=133. f1=51+31-5=8-4=-24. f-2=5-2+3-2-5=-7-7=15. f2=52+32-5=13-3=-133