\(y = \frac{1}{3}{x^3} - \frac{1}{2}m{x^2} - 4x - 10 \Rightarrow y\prime = {x^2} - mx - 4\).

Hàm số có 2 điểm cực trị \({{\rm{x}}_1},{{\rm{x}}_2}\) khi phương trình \({\rm{y'}} = 0\) có hai nghiệm phân biệt \({{\rm{x}}_1},{{\rm{x}}_2}\) \( \Leftrightarrow \Delta > 0 \Leftrightarrow {{\rm{m}}^2} + 16 > 0\,\,\forall {\rm{m}} \in \mathbb{R}.\)

Theo Định lí Vi-et ta có: \(\left\{ {\begin{array}{*{20}{l}}{{x_1} + {x_2} = m}\\{{x_1}.{x_2} = - 4}\end{array}} \right.\)

Khi đó ta có :

\(\begin{array}{l}{\rm{S}} = \left( {{\rm{x}}_1^2 - 1} \right)\left( {{\rm{x}}_2^2 - 1} \right) = {\left( {{{\rm{x}}_1}{{\rm{x}}_2}} \right)^2} - \left( {{\rm{x}}_1^2 + {\rm{x}}_2^2} \right) + 1\\ = {\left( {{{\rm{x}}_1}{{\rm{x}}_2}} \right)^2} - {\left( {{{\rm{x}}_1} + {{\rm{x}}_2}} \right)^2} + 2{{\rm{x}}_1}{{\rm{x}}_2} + 1\\ = 16 - {{\rm{m}}^2} - 8 + 1\\ = - {{\rm{m}}^2} + 9 \le 9\quad \forall {\rm{m}} \in \mathbb{R}\end{array}\)

Vậy giá trị lớn nhất của S bằng 9 khi m = 0. Chọn D.