$解:分两种情况:$
$①当点P在点B的左侧时$
$∵点P(m,n)在函数y=\frac{9}{x}(x>0)的图像上$
$∴mn=9$
$∴S=m(n-3)=mn-3m=\frac{9}{2}$
$解得m=\frac{3}{2}$
$∴n=6$
$∴点P的坐标是(\frac{3}{2},6)$
$②当点P在点B的右侧时$
$∵点P(m,n)在函数y=\frac{9}{x}(x>0)的图像上$
$∴mn=9$
$∴S=n(m-3)=mn-3n=\frac{9}{2}$
$解得n=\frac{3}{2}$
$∴m=6$
$∴点P的坐标是(6,\frac{3}{2})$
$综上所述,点P的坐标是(6,\frac{3}{2})或(\frac{3}{2},6)。$