(1)解:
因为$OA = 2,$$OC = 4,$四边形$ABCO$是矩形,所以$B(2,4)。$
因为双曲线$y=\frac{k}{x}(k\neq0)$经过点$B,$所以$k = 2\times4 = 8。$
所以反比例函数的表达式为$y=\frac{8}{x}。$
由旋转的性质可得$AF = OA = 2,$所以$Q$点的纵坐标为$2,$
把$y = 2$代入$y=\frac{8}{x},$得$2=\frac{8}{x},$解得$x = 4,$所以$Q(4,2)。$
由旋转的性质可得$AD = OC = 4,$所以$OD = 2 + 4 = 6。$
所以$P$点的横坐标为$6。$
把$x = 6$代入$y=\frac{8}{x},$得$y=\frac{4}{3},$所以$P(6,\frac{4}{3})。$
(2)证明:
由题意可知$B(a,b),$
因为双曲线$y=\frac{k}{x}(k\neq0)$经过点$B,$所以$k = ab。$
因为$AD = OC = b,$$DE = OA = a,$且点$P$是$DE$的中点,
所以$P(a + b,\frac{1}{2}a)。$
因为双曲线$y=\frac{k}{x}(k\neq0)$交$DE$于点$P,$
所以$(a + b)\times\frac{1}{2}a = ab,$
整理得:$\frac{1}{2}a^{2}+\frac{1}{2}ab=ab,$
移项得:$\frac{1}{2}a^{2}+\frac{1}{2}ab - ab = 0,$
即$\frac{1}{2}a^{2}-\frac{1}{2}ab = 0,$
提取公因式得:$\frac{1}{2}a(a - b)=0,$
因为$a\neq0,$所以$a - b = 0,$即$a = b。$
所以$OA = OC。$
因为四边形$ABCO$是矩形,所以四边形$ABCO$是正方形。