解:(1)方法一:边长为$a$的正方形面积为$a^{2};$
方法二:由图可知,面积为$(a-b)^{2}+b^{2}+2b(a-b)。$
因为$a^{2}=(a-b)^{2}+b^{2}+2b(a-b),$
展开得$a^{2}=a^{2}-2ab+b^{2}+b^{2}+2ab-2b^{2},$
化简后等式成立,所以$ab=\dfrac{a^{2}-(a-b)^{2}-b^{2}}{2};$
(2)设$m=2x-y,$则原式可化为$(m+3)^{2}+(-m)^{2}=10,$
即$m^{2}+6m+9+m^{2}=10,$$2m^{2}+6m=1,$
$m^{2}+3m=\dfrac{1}{2},$
所以$(2x-y+3)(2x-y)=m(m+3)=m^{2}+3m=\dfrac{1}{2}$