Đáp án B

Từ đồ thị hàm số y=f(x) ta suy ra f(x) có tập xác định $D=R\backslash \left\{\pm 1\right\}$ và các giới hạn $\underset{x\to \pm \infty }{\lim }f\left(x\right)=0$, $\underset{x\to -1^{+}}{\lim }f\left(x\right)=+\infty$, $\underset{x\to -1^{-}}{\lim }f\left(x\right)=-\infty$, $\underset{x\to 1^{+}}{\lim }f\left(x\right)=+\infty$, $\underset{x\to 1^{-}}{\lim }f\left(x\right)=-\infty$.

Vì hàm số $t=x^2-2x+m$ xác định trên R nên hàm số $y=f\left(x^2-2x+m\right)-m$ xác định $\iff \left\{\begin{array}{l}{x}^2-2x+m\ne 1\\ x^2-2x+m\ne -1\end{array}\right.$

Vì $\underset{x\to \pm \infty }{\lim }\left(x^2-2x+m\right)=+\infty$ nên $\underset{x\to \pm \infty }{\lim }\left[f\left(x^2-2x+m\right)-m\right]=\underset{t\to +\infty }{\lim }\left[f\left(t\right)-m\right]=-m$

Do đó đồ thị hàm số $y=f\left(x^2-2x+m\right)-m$ có đúng một đường tiệm cận ngang là đường thẳng y=-m (về cả 2 phía $x\to +\infty$ và $x\to -\infty$)

Để đồ thị hàm số $y=f\left(x^2-2x+m\right)-m$ có 5 đường tiệm cận thì nó phải có 4 đường tiệm cận đứng.

Điều kiện cần $\left[\begin{array}{l}{x}^2-2x+m=1\\ x^2-2x+m=-1\end{array}\right.$ phải có 4 nghiệm phân biệt.

$\iff \left[\begin{array}{l}{\left(x-1\right)}^2=-m+2\\ {\left(x-1\right)}^2=-m\end{array}\right.$ có 4 nghiệm phân biệt $\iff \left[\begin{array}{l}-m+2>0\\ -m>0\end{array}\right.\iff m<0$.

Điều kiện đủ: Giả sử $x_1,x_2(x_1<x_2)$ là hai nghiệm phân biệt của phương trình $x^2-2x+m=1$; $x_3;x_4$ là hai nghiệm phân biệt của phương trình $x^2-2x+m=-1$

Xét đường thẳng $x=x_1$, ta có $\underset{x\to {x_1}^{\mp }}{\lim }\left[f\left(x^2-2x+m\right)-m\right]=\underset{t\to 1^{\pm }}{\lim }\left[f\left(t\right)-m\right]=\pm \infty$.

Suy ta đường thẳng $x=x_1$ là tiệm cận đứng của đồ thị hàm số $y=f\left(x^2-2x+m\right)-m$.

Tương tự các đường thẳng $x=x_2$, $x=x_3,x=x_4$ cũng là các đường tiệm cận đứng của đồ thị hàm số $y=f\left(x^2-2x+m\right)-m$.

Vậy để đồ thị hàm số $y=f\left(x^2-2x+m\right)-m$ có 5 đường tiệm cận thì m<0.

Do $m\in Z$ và $m\in \left[-20;20\right]$ nên có tất cả 20 giá trị của m