解:(1)cosB=(a^2+c^2--b^2)/2ac
=[(a+c)^2--2ac--b^2]/2ac
7/8=(49--2ac--4)/2ac
14ac=392-16ac--32
30ac=360
ac=12
所以 a=4, c=3 或 a=3, c=4.
(2) 三角形ABC中,因为 b最小,所以 角B一定是锐角。
因为 cosB=7/8,
所以 sinB=(根号15)/8,
当a=4, c=3, b=2, 时,角A是钝角
4/sinA=2/sinB
sinA=2sinB=(根号15)/4
cosA=--1/4,
所以 cos(A--B)=cosAcosB--sinAsinB
=--11/16.
当a=3, c=4, b=2时,a