解:$∵(x-3)(x+1)(x+7)=x^3+5x^2-17x-21,$
去分母得$x+7-k(x-3)=x+1,$
整理得$kx=6+3k。$
$∵$方程$\frac{1}{(x-3)(x+1)}-\frac{k}{(x+1)(x+7)}=\frac{x+1}{x^3+5x^2-17x-21}$无解,
$∴k=0$或$x=-1$或$3$或$-7。$
当$x=-1$时,$-k=6+3k,$
解得$k=-\frac{3}{2},$经检验符合要求;
当$x=3$时,$3k=6+3k,$方程无解;
当$x=-7$时,$-7k=6+3k,$
解得$k=-\frac{3}{5},$经检验符合要求;
当$k=0$时,方程$x+7-k(x-3)=x+1$无解,
则原方程无解,
$∴k$的值为$-\frac{3}{2}$或$-\frac{3}{5}$或$0。$