Trong không gian Oxyz cho ba điểm A(3;0;0), B(1;2;1) và C(2;-1;2)...

Phương trình (OAB) là: -y+2z=0.
Phương trình (OAC) là: 2y+z=0 .
Phương trình (OBC) là: x-z=0.
Phương trình (ABC) là: 5x+3y+4z-15=0.
Gọi $I(a^{{}^{\prime }};b^{{}^{\prime }};c^{{}^{\prime }})$ là tâm mặt cầu nội tiếp tứ diện OABC.
Do đó:
I nằm cùng phía với A đối với (OBC) suy ra: $(a^{{}^{\prime }}-c^{{}^{\prime }})>0$.
I nằm cùng phía với B đối với (OAC) suy ra: $(2b^{{}^{\prime }}+c^{{}^{\prime }})>0$.
I nằm cùng phía với C đối với (OAB) suy ra: $(-b^{{}^{\prime }}+2c^{{}^{\prime }})>0$.
I nằm cùng phía với O đối với (ABC) suy ra: $(5a^{{}^{\prime }}+3b^{{}^{\prime }}+4c^{{}^{\prime }}-15)<0$.
Suy ra:
$\begin{array}{l}\{\begin{array}{c}d(I,(OAB))=d(I,(OAC))\\ d(I,(OAB))=d(I,(OBC))\\ d(I,(OAB))=d(I,(ABC))\end{array}\iff \{\begin{array}{c}{\displaystyle \frac{\left|-b^{\prime }+2c^{\prime }\right|}{\sqrt{5}}}={\displaystyle \frac{\left|2b^{\prime }+c^{\prime }\right|}{\sqrt{5}}}\\ {\displaystyle \frac{\left|-b^{\prime }+2c^{\prime }\right|}{\sqrt{5}}}={\displaystyle \frac{\left|a^{\prime }-c^{\prime }\right|}{\sqrt{2}}}\\ {\displaystyle \frac{\left|-b^{\prime }+2c^{\prime }\right|}{\sqrt{5}}}={\displaystyle \frac{\left|5a^{\prime }+3b^{\prime }+4c^{\prime }-15\right|}{5\sqrt{2}}}\end{array}\\ \iff \{\begin{array}{c}\left|-b^{\prime }+2c^{\prime }\right|=\left|2b^{\prime }+c^{\prime }\right|\\ \sqrt{2}\left|-b^{\prime }+2c^{\prime }\right|=\sqrt{5}\left|a^{\prime }-c^{\prime }\right|\\ \sqrt{10}\left|-b^{\prime }+2c^{\prime }\right|=\left|5a^{\prime }+3b^{\prime }+4c^{\prime }-15\right|\end{array}\iff \{\begin{array}{c}-b^{\prime }+2c^{\prime }=2b^{\prime }+c^{\prime }\\ \sqrt{2}\left(-b^{\prime }+2c^{\prime }\right)=\sqrt{5}\left(a^{\prime }-c^{\prime }\right)\\ \sqrt{10}\left(-b^{\prime }+2c^{\prime }\right)=-\left(5a^{\prime }+3b^{\prime }+4c^{\prime }-15\right)\end{array}\\ \iff \{\begin{array}{c}{a}^{\prime }={\displaystyle \frac{3}{2}}\\ b^{\prime }={\displaystyle \frac{3\sqrt{10}-9}{2}}\\ c^{\prime }={\displaystyle \frac{9\sqrt{10}-27}{2}}\end{array}\end{array}$ Suy ra: $I({\displaystyle \frac{3}{2}};{\displaystyle \frac{3\sqrt{10}-9}{2}};{\displaystyle \frac{3(3\sqrt{10}-9)}{2}}),\overrightarrow{BI}=({\displaystyle \frac{1}{2}};{\displaystyle \frac{3\sqrt{10}-13}{2}};{\displaystyle \frac{9\sqrt{10}-29}{2}}),\overrightarrow{BC}=(1;-3;1)$. $[\overrightarrow{BI},\overrightarrow{BC}]=(-50+15\sqrt{10};{\displaystyle \frac{-30+9\sqrt{10}}{2}};{\displaystyle \frac{10-3\sqrt{10}}{2}})$ cùng phương với $\overrightarrow{n}=(10;3;-1).\mid$ Suy ra $(BCI)$ có một VTPT là $\overrightarrow{n}=(10;3;-1)=(10;a;b)$. Vậy: $a+b=2$.
Cách khác:
Phương trình (OBC) là: x-z=0 .
Phương trình (ABC) là: 5x+3y+4z-15=0 .
Gọi (α) là mặt phẳng qua B, C và tâm mặt cầu nội tiếp tứ diện (OABC).
Suy ra (α) là mặt phẳng phân giác của hai mặt phẳng (OBC) và (ABC)
$(\alpha ):{\displaystyle \frac{|x-z|}{\sqrt{2}}}={\displaystyle \frac{|5\text{x}+3y+4\text{z}-15|}{\sqrt{50}}}\iff [\begin{array}{rl}& 3y-8\text{z}-15=0(1)\\ & 10\text{x}+3y-z-15=0(2)\end{array}$

Phương trình (1) bị loại do O và A phải nằm khác phía đối với (α). Vì vậy ta chọn phương trình (2). Do đó, (α) có một VTPT là $\overrightarrow{n}=(10;3;-1)=(10;a;b)$.
Vậy: $a+b=2$..