Cho hình chóp S. ABCD có đáy ABCD là hình vuông cạnh $a,SA$ vuông góc với mặt đáy $\left(ABCD\right)$ và góc giữa $SC$ với mặt phẳng $\left( SAB...

Theo bài $SA\mathrm{\perp }\left(ABH\right)\Rightarrow V_{S.ABH}={\displaystyle \frac{1}{3}}SA.S_{ABH}.$ Nên $V_{S.ABH}$ lớn nhất khi $S_{ABH}$ lớn nhất.
Ta có $\{\begin{array}{rl}& BC\mathrm{\perp }AB\\ & BC\mathrm{\perp }SA\end{array}\Rightarrow BC\mathrm{\perp }\left(SAB\right)\Rightarrow \widehat{(SC,\left(SAB\right))}=\widehat{CSB}={30}^0$
Xét $\mathrm{\Delta }SBC$ vuông tại $B,$ ta có $\tan \widehat{CBS}=\tan {30}^0={\displaystyle \frac{BC}{SB}}\Rightarrow SB=a\sqrt{3}.$
Xét $\mathrm{\Delta }SAB$ vuông tại $A,$ ta có $S{B}^2=S{A}^2+A{B}^2\Rightarrow SA=a\sqrt{2}.$
Mặt khác $\{\begin{array}{rl}& BM\mathrm{\perp }SH\\ & BM\mathrm{\perp }SA\end{array}\Rightarrow BM\mathrm{\perp }\left(SAH\right)\Rightarrow BM\mathrm{\perp }AH\Rightarrow BH\mathrm{\perp }AH$ nên $\mathrm{\Delta }ABH$ vuông tại $H$.
Gọi $x,y$ là độ dài hai cạnh góc vuông của tam giác $\mathrm{\Delta }ABH$ có cạnh huyền là $a,0<x<a$ và $0<y<a.$ Diện tích $\mathrm{\Delta }ABH$ là $S={\displaystyle \frac{1}{2}}xy.$ Ta có $x^2+y^2=a^2.$
$S_{ABH}$ lớn nhất khi và chỉ khi $x^2{y}^2=x^2(a^2-x^2)$ đạt giá trị lớn nhất.
Suy ra $S_{ABH}={\displaystyle \frac{a^2}{4}}$ lớn nhất khi $x=y={\displaystyle \frac{a\sqrt{2}}{2}}.$ Vậy $V_{S.ABH}={\displaystyle \frac{a^3\sqrt{2}}{12}}$ lớn nhất.