解:$ (1)$∵$a^2+\sqrt {(b-\sqrt {28})^2}+24=\sqrt {96}a$,
∴$a^2-4\sqrt {6}a+24+\sqrt {(b-2\sqrt {7})^2}=0$,
∴$(a-2\sqrt {6})^2+|b-2\sqrt {7}|=0$,
∴$a-2\sqrt {6}=0,b-2\sqrt {7}=0$,
∴$a=2\sqrt {6},b=2\sqrt {7}$。
$ (2)$当$a,b$为直角边时,三角形的面积为$\frac {1}{2}×2\sqrt {6}×2\sqrt {7}=2\sqrt {42}$;
$ $当$b$为斜边,$a$为直角边时,另一直角边为$\sqrt {(2\sqrt {7})^2-(2\sqrt {6})^2}=2$,
此时三角形的面积为$\frac {1}{2}×2×2\sqrt {6}=2\sqrt {6}$。
综上,此直角三角形的面积为$2\sqrt {42}$或$2\sqrt {6}$。