Tìm tất cả các giá trị thực của tham số $m$ để hàm số $y={\displaystyle \frac{4}{3}}{\sin }^{3}2x+2{\cos }^{2}2x-(m^2+3m)\sin 2x-1$ nghịch...

Ta có $y={\displaystyle \frac{4}{3}}{\sin }^{3}2x+2{\cos }^{2}2x-(m^2+3m)\sin 2x-1$ hay $y={\displaystyle \frac{4}{3}}{\sin }^{3}2x-2{\sin }^{2}2x-(m^2+3m)\sin 2x+1$ do vậy $y^{\prime }=2[4{\sin }^{2}2x-4\sin 2x-(m^2+3m)]\cos 2x.$
Với $\mathrm{\forall }x\in (0;{\displaystyle \frac{\pi }{4}})$ ta có $\cos 2x>0$ vì vậy hàm số đã cho nghịch biến trên khoảng $(0;{\displaystyle \frac{\pi }{4}})$ khi và chỉ khi $y^{\prime }\ge 0,\mathrm{\forall }x\in (0;{\displaystyle \frac{\pi }{4}})\iff 4{\sin }^{2}2x-4\sin 2x-(m^2+3m)\ge 0,\mathrm{\forall }x\in (0;{\displaystyle \frac{\pi }{4}}).$
Đặt $t=\sin 2x$ với $\mathrm{\forall }x\in (0;{\displaystyle \frac{\pi }{4}})$ ta được $t\in (0;1)$ do vậy ta có bất phương trình
$4t^2-4t-(m^2+3m)\ge 0,\mathrm{\forall }t\in (0;1)\iff 4t^2-4t\ge m^2+3m,\mathrm{\forall }t\in (0;1).$
Xét hàm số $g\left(t\right)=4t^2-4t$ ta có bảng biến thiên như sau

Qua bảng ta cần có $m^2+3m\le 1\iff m^2+3m-1\le 0\iff {\displaystyle \frac{-3-\sqrt{5}}{2}}\le m\le {\displaystyle \frac{-3+\sqrt{5}}{2}}.$