解:
(1) $\because$ 一次函数$y=kx+b$的图象与反比例函数$y=\frac{m}{x}$的图象相交于点$A(-1,n),$$B(2,1),$
$\therefore m=-n=2×1,$解得$m=2,$$n=-2,$
$\therefore$ 反比例函数的表达式为$y=\frac{2}{x},$点$A$的坐标为$(-1,-2)。$
将$A(-1,-2),$$B(2,1)$代入$y=kx+b,$得
$\begin{cases}k+b=-2,\\ 2k+b=1, \end{cases}$
解得$\begin{cases} k=1,\\ b=-1, \end{cases}$
$\therefore$ 一次函数的表达式为$y=x-1。$
(2) 设直线$AB$与$x$轴的交点为$C。$
在$y=x-1$中,当$y=0$时,$x=1,$$\therefore C(1,0),$即$OC=1,$
$\therefore S_{△ OAB}=S_{△ BOC}+S_{△ AOC}=\frac{1}{2}×1×1 + \frac{1}{2}×1×2=\frac{3}{2}。$