解:将分式方程$\frac{x}{x-1}-1=\frac{m}{(x-1)(x+2)}$去分母、整理,得$x+2=m。$
根据题意,当$x=1$或$x=-2$时,原分式方程的分母为0,此时分式方程无解。
当$x=1$时,$m=3;$当$x=-2$时,$m=0,$
$\therefore$ 在1,2,3,4,5中取一个数字使分式方程无解的情况只有$m=3$这1种,
$\therefore$ 数字$m$使分式方程$\frac{x}{x-1}-1=\frac{m}{(x-1)(x+2)}$无解的概率为$\frac{1}{5}$