Trong không gian với hệ tọa độ $Oxyz$, cho điểm $A\left( 0;8;2...

Cách 1:
Mặt cầu $\left(S\right)$ có tâm $I(5;-3;7)$ và bán kính $R=6\sqrt{2}$.
$\overrightarrow{IA}=(-5;11;-5)\Rightarrow IA=\sqrt{171}>6\sqrt{2}$ nên điểm $A$ nằm ngoài mặt cầu.
$\overrightarrow{IB}=(4;-4;16)\Rightarrow IB=12\sqrt{2}>6\sqrt{2}$ nên điểm $B$ nằm ngoài mặt cầu.
$\Rightarrow$ $A,I,B$ không thẳng hàng.
Mặt phẳng $\left(P\right)$ qua $A$ và tiếp xúc với $\left(S\right)$ nên khi $\left(P\right)$ thay đổi thì tập hợp các đường thẳng qua $A$ và tiếp điểm tạo thành hình nón.
Gọi $(AB,\left(P\right))=\alpha \Rightarrow d(B,\left(P\right))=AB.\sin \alpha$ đạt giá trị lớn nhất $A,B,I,H$ đồng phẳng $\iff \left(AIB\right)\mathrm{\perp }\left(P\right)$ ( $H$ là hình chiếu của $B$ lên $\left(P\right)$ ).
Mặt phẳng $\left(P\right)$ qua $A$ và nhận $\overrightarrow{n}=(1;m;n)$ làm vectơ pháp tuyến nên có phương trình $x+my-nz-8m-2n=0$.
Mặt phẳng $\left(P\right)$ tiếp xúc với $\left(S\right)\iff d(I,\left(P\right))=R$.
$\begin{array}{rl}& \iff {\displaystyle \frac{|5n-11m+5|}{\sqrt{1+m^2+n^2}}}=6\sqrt{2}\iff {(5n-11m+5)}^2=72(1+m^2+n^2)\\ & \iff 49m^2-47n^2-110mn+50n-110m-47=0\left(1\right)\end{array}$
Ta có: $[\overrightarrow{IA},\overrightarrow{IB}]=(156;70;-24)$.
Gọi $\overrightarrow{n_1}$ là vectơ pháp tuyến của mặt phẳng $\left(AIB\right)$, chọn $\overrightarrow{n_1}=(13;5;-2)$.
Do $\left(AIB\right)\mathrm{\perp }\left(P\right)\iff \overrightarrow{n_1}.\overrightarrow{n}=0\iff 13+5m-2n=0\left(2\right)$.
Thế (2) vào (1) ta được phương trình:
$2079m^2+8910m+6831=0\iff [\begin{array}{rl}& m=-1\\ & m=-{\displaystyle \frac{6831}{2079}}\left(l\right)\end{array}$
Thay $m=-1$ vào (2) suy ra: $n=4$.
Vậy $m.n=-4$.
Cách 2:
Mặt cầu $\left(S\right)$ có tâm $I(5;-3;7)$ và bán kính $R=6\sqrt{2}$.
Mặt phẳng $\left(P\right)$ qua $A$ và nhận $\overrightarrow{n}=(1;m;n)$ làm vectơ pháp tuyến nên có phương trình $x+my+nz-8m-2n=0$.
Mặt phẳng $\left(P\right)$ tiếp xúc với $\left(S\right)$ :
$\begin{array}{rl}& \iff d(I,\left(P\right))=R\iff {\displaystyle \frac{|5n-11m+5|}{\sqrt{1+m^2+n^2}}}=6\sqrt{2}\\ & \iff d(B,\left(P\right))={\displaystyle \frac{|21n-15m+9|}{\sqrt{1+m^2+n^2}}}={\displaystyle \frac{|5n-11m+5-4m+16n+4|}{\sqrt{1+m^2+n^2}}}\\ & \le {\displaystyle \frac{|5n-11m+5|+4|4n-m+1|}{\sqrt{1+m^2+n^2}}}\le 6\sqrt{2}+4{\displaystyle \frac{\sqrt{(4^2+{(-1)}^2+1^2)(n^2+m^2+1)}}{\sqrt{1+m^2+n^2}}}=18\sqrt{2}\end{array}$
Dấu bằng xảy ra khi ${\displaystyle \frac{n}{4}}={\displaystyle \frac{m}{-1}}={\displaystyle \frac{1}{1}}\iff m=-1;n=4$.
Vậy $m.n=-4$.