Cho hàm đa thức $y=f\left( x \right)$ có ${f}'\left( x...

Xét ${f}'\left( x \right)=\left( x+1 \right){{\left( x-2 \right)}^{2}}\left( 5-x \right)=0\Leftrightarrow \left[ \begin{aligned}
& x=-1 \\
& x=2 \\
& x=5 \\
\end{aligned} \right.$. Bảng xét dấu
Ta có $y=f\left( \left( {{m}^{2}}+1 \right)\cos x-n \right)\Rightarrow {y}'=-\left( {{m}^{2}}+1 \right)\sin x.{f}'\left( \left( {{m}^{2}}+1 \right)\cos x-n \right)$.
Hàm số $y=f\left( \left( {{m}^{2}}+1 \right)\cos x-n \right)$ nghịch biến trên khoảng $\left( 0;\pi \right)$ nên ${y}'\le 0,\forall x\in \left( 0;\pi \right)$.
Khi đó, với mọi $x\in \left( 0;\pi \right)$ :
$-\left( {{m}^{2}}+1 \right)\sin x.{f}'\left( \left( {{m}^{2}}+1 \right)\cos x-n \right)\le 0\Leftrightarrow {f}'\left( \left( {{m}^{2}}+1 \right)\cos x-n \right)\ge 0\Leftrightarrow -1\le \left( {{m}^{2}}+1 \right)\cos x-n\le 5$
$\Leftrightarrow \left\{ \begin{aligned}
& -{{m}^{2}}-1-n\ge -1 \\
& {{m}^{2}}+1-n\le 5 \\
\end{aligned} \right.\Leftrightarrow \left\{ \begin{aligned}
& {{m}^{2}}+n\le 0 \\
& {{m}^{2}}-n\le 4 \\
\end{aligned} \right.\Leftrightarrow -4\le n\le 0$.
Ta có bảng sau:
Vậy có 11 cặp số nguyên $\left( m;n \right)$.