过A点作AH⊥BC于H,因为∠C=60°所以CH=√3/2b,CH=b/2,根据勾股定理得 CH^2+BH^2=AB^2(√3/2b)^2+(b/2)^2=c^2=25-3ab,化简得a+b=5,得b=a-5而三角形ABC的面积==a/2 ×√3/2b=√3/4ab=√3/4a(a-5)=-√3/4(a-5/2)^2+25√3/16当a=5/2时,三角形ABC的面积最大值为25√3/16。