Gọi ${{x}_{1}},{{x}_{2}}$ là hai điểm cực trị của hàm số...

$y=\dfrac{1}{3}{{x}^{3}}-\dfrac{1}{2}m{{x}^{2}}-4x-10\Rightarrow y'={{x}^{2}}-mx-4$
Hàm số có 2 điểm cực trị ${{x}_{1}},{{x}_{2}}$ khi phương trình $y'=0$ có hai nghiệm phân biệt ${{x}_{1}},{{x}_{2}}$
$\Leftrightarrow \Delta >0\Leftrightarrow {{m}^{2}}+16>0 \forall m\in \mathbb{R}$
Theo định lí Vi-et ta có: $\left\{ \begin{aligned}
& {{x}_{1}}+{{x}_{2}}=m \\
& {{x}_{1}}.{{x}_{2}}=-4 \\
\end{aligned} \right.$
$\begin{aligned}
& S=\left( x_{1}^{2}-1 \right)\left( x_{2}^{2}-1 \right)={{\left( {{x}_{1}}{{x}_{2}} \right)}^{2}}-\left( {{x}_{1}}^{2}+{{x}_{2}}^{2} \right)+1 \\
& ={{\left( {{x}_{1}}{{x}_{2}} \right)}^{2}}-{{\left( {{x}_{1}}+{{x}_{2}} \right)}^{2}}+2{{x}_{1}}{{x}_{2}}+1 \\
& =-{{m}^{2}}+9\le 9 \forall m\in \mathbb{R} \\
\end{aligned}$
Vậy GTLN của $S=9$ khi $m=0.$