Đáp án đúng là: C

Gọi \[M\left( {a;b;c} \right)\] với \[a \in \mathbb{Z},b \in \mathbb{R},c \in \mathbb{R}.\]

Ta có: \[\overrightarrow {AM} = \left( {a - 3;b - 1;c - 7} \right)\] và \[\overrightarrow {BM} = \left( {a - 5;b - 5;c - 1} \right)\].

Vì \[\left\{ \begin{array}{l}M \in \left( P \right)\\MA = MB = \sqrt {35} \end{array} \right.\] \[ \Leftrightarrow \left\{ \begin{array}{l}M \in \left( P \right)\\M{A^2} = M{B^2}\\M{A^2} = 35\end{array} \right.\] nên ta có hệ phương trình sau:

\[\left\{ \begin{array}{l}2a - b - c + 4 = 0\\{\left( {a - 3} \right)^2} + {\left( {b - 1} \right)^2} + {\left( {c - 7} \right)^2} = {\left( {a - 5} \right)^2} + {\left( {b - 5} \right)^2} + {\left( {c - 1} \right)^2}\\{\left( {a - 3} \right)^2} + {\left( {b - 1} \right)^2} + {\left( {c - 7} \right)^2} = 35\end{array} \right.\]

\[\left\{ \begin{array}{l}2a - b - c + 4 = 0\\4a - 8b - 12c = - 8\\{\left( {a - 3} \right)^2} + {\left( {b - 1} \right)^2} + {\left( {c - 7} \right)^2} = 35\end{array} \right.\]

\[\left\{ \begin{array}{l}b = c\\c = a + 2\\{\left( {a - 3} \right)^2} + {\left( {b - 1} \right)^2} + {\left( {c - 7} \right)^2} = 35\end{array} \right.\]

\[\left\{ \begin{array}{l}b = a + 2\\c = a + 2\\3{a^2} - 14a = 0\end{array} \right.\]\[ \Leftrightarrow \left\{ \begin{array}{l}a = 0\\b = 2\\c = 2\end{array} \right.\] (do \[a \in \mathbb{Z}\]).

Ta có \[M\left( {0;2;2} \right)\] nên suy ra \[OM = 2\sqrt 2 .\]