解:
把$\begin{cases}x=1\\y=1\end{cases}$代入方程组$\begin{cases}ax+y=b\\x-by=a\end{cases},$得
$\begin{cases}a+1=b\\1-b=a\end{cases}$
解得$\begin{cases}a=0\\b=1\end{cases}$
计算$(a+b)^2-(a-b)(a+b)$:
$\begin{aligned}&(0+1)^2-(0-1)(0+1)\\=&1-(-1)×1\\=&1+1\\=&2\end{aligned}$