Đáp án B

Điều kiện $x^2-1\ge 0\Rightarrow \left[\begin{array}{l}x\le -1\\ x\ge 1\end{array}\right..$

Phương trình đã cho tương đương với:

$2\left(x^2-1\right){\log }^2\left(x^2+1\right)-2m\sqrt{2\left(x^2-1\right)}.\log \left(x^2+1\right)+2m+8=0$ 

$\iff {\left[\sqrt{2\left(x^2-1\right)}.\log \left(x^2+1\right)\right]}^2-2m\sqrt{2\left(x^2-1\right)}.\log \left(x^2+1\right)+2m+8=0\left(*\right)$

Đặt $t=x^2\ge 1$, theo bài ra ta có 

$\begin{array}{l}1\le \left|x_1\right|<\left|x_2\right|\le 3\\ \iff 1\le x_1^2<x_2^2\le 9\\ \Rightarrow t\in \left[1;9\right].\end{array}$

Xét hàm số $f\left(t\right)=\sqrt{2-\left(t-1\right)}.\log \left(t+1\right)$ trên đoạn $\left[1;9\right]$.

Ta có $f\text{'}\left(t\right)=\frac{\log \left(t+1\right)}{\sqrt{2\left(t-1\right)}}+\frac{\sqrt{2\left(t-1\right)}}{\left(t+1\right).\ln 10}>\mathrm{0,}\forall \in \left[0;9\right]\Rightarrow$ Hàm số $f\left(t\right)$ đồng biến trên đoạn $\left[1;9\right]$. Khi đó $f\left(1\right)\le f\left(t\right)\le 9$ hay $0\le f\left(t\right)\le 4$.

Đặt $u=\sqrt{2\left(x^2-1\right)}.\log \left(x^2+1\right)\Rightarrow u\in \left[0;4\right]$. Khi đó phương trình (*) trở thành $u^2-2m.u+2m+8=0\left(1\right)$.

Nhận thấy u=1 không phải là nghiệm của phương trình (1). Với $u\ne 1$ thì phương trình (1) tương đương với 

$\begin{array}{l}{u}^2+8=2m\left(u-1\right)\\ \iff 2m=\frac{u^2+8}{u-1}\left(2\right)\end{array}$

Xét hàm số $g\left(u\right)=\frac{u^2+8}{u-1}$ trên đoạn $\left[0;4\right]\backslash \left\{1\right\}$.

Ta có $g\text{'}\left(u\right)=\frac{u^2-2u-8}{{\left(u-1\right)}^2}$; $g\text{'}\left(u\right)=0\iff \left[\begin{array}{l}u=4\\ u=-2\end{array}\right.$. Mà $u\in \left[0;4\right]\backslash \left\{1\right\}$ nên u=4.

Mặt khác, có $g\left(0\right)=-8$; $g\left(4\right)=8$; $\underset{x\to 1^{-}}{\lim }g\left(u\right)=-\infty$; $\underset{x\to 1^{+}}{\lim }g\left(u\right)=+\infty$.

Bảng biến thiên:

Yêu cầu bài toán <=>Phương trình (2) có nghiệm duy nhất trên đoạn $\left[0;4\right]\backslash \left\{1\right\}$ . Suy ra $\left[\begin{array}{l}2m\ge 8\\ 2m\le -8\end{array}\right.\iff \left[\begin{array}{l}m\ge 4\\ m\le -4\end{array}\right..$

Mặt khác $m\in \mathbb{Z}$, $m\in \left[-2017;2017\right]$ nên suy ra $\left[\begin{array}{l}4\le m\le 2017\\ -2017\le m\le -4\end{array}\right..$ 

Vậy có tất cả $\left(2017-4+1\right)+\left(-4+2017+1\right)=4028$ giá trị m nguyên thỏa mãn bài toán.