Cho tứ diện $O.ABC$ có OA, OB, OC đôi một vuông góc với nhau...

Ta có ΔOBC vuông cân tại O, M là trung điểm của BC
$\Rightarrow OM\bot BC$. Dựng hình chữ nhật OMBN, ta có
$\left\{ \begin{aligned}
& OM//BN \\
& BN\subset \left( ABN \right) \\
\end{aligned} \right.\Rightarrow OM//\left( ABN \right)$
$\Rightarrow d\left( AB,OM \right)=d\left( OM,\left( ABN \right) \right)=d\left( O,\left( ABN \right) \right)$
Gọi H là hình chiếu vuông góc của O trên AN, ta có:
$\left\{ \begin{aligned}
& BN\bot ON \\
& BN\bot OA \\
\end{aligned} \right.\Rightarrow BN\bot \left( OAN \right)\Rightarrow OH\bot BN$
Mà $OH\bot AN$
$\Rightarrow OH\bot \left( ABN \right)\Rightarrow d\left( O,\left( ABN \right) \right)=OH$
ΔOAN vuông tại O, đường cao OH
$\Rightarrow \dfrac{1}{O{{H}^{2}}}=\dfrac{1}{O{{A}^{2}}}+\dfrac{1}{O{{N}^{2}}}=\dfrac{1}{O{{A}^{2}}}+\dfrac{1}{B{{M}^{2}}}=\dfrac{1}{O{{A}^{2}}}+\dfrac{4}{B{{C}^{2}}}=\dfrac{1}{O{{A}^{2}}}+\dfrac{4}{O{{B}^{2}}+O{{C}^{2}}}$
$=\dfrac{1}{{{a}^{2}}}+\dfrac{4}{4{{a}^{2}}+4{{a}^{2}}}=\dfrac{3}{2{{a}^{2}}}\Rightarrow O{{H}^{2}}=\dfrac{2{{a}^{2}}}{3}\Rightarrow OH=\dfrac{a\sqrt{6}}{3}\Rightarrow d\left( AB,OM \right)=OH=\dfrac{a\sqrt{6}}{3}$

Nhận xét: Chọn hệ trục tọa độ Oxyz như hình vẽ, khi đó $O\left( 0;0;0 \right),B\left( 2a;0;0 \right),C\left( 0;2a;0 \right),A\left( 0;0;a \right)$
M là trung điểm của $BC\Rightarrow M\left( a;a;0 \right)$
Ta có $\overrightarrow{OM}=\left( a;a;0 \right); \overrightarrow{OB}=\left( 2a;0;0 \right); \overrightarrow{AB}=\left( 2a;0;-a \right)$
$\begin{aligned}
& \Rightarrow \left[ \overrightarrow{OM},\overrightarrow{AB} \right]=\left( -{{a}^{2}};{{a}^{2}};-2{{a}^{2}} \right) \\
& \Rightarrow d\left( AB,OM \right)=\dfrac{\left| \left[ \overrightarrow{OM},\overrightarrow{AB} \right].OB \right|}{\left| \left[ \overrightarrow{OM},\overrightarrow{AB} \right] \right|} \\
& =\dfrac{2{{a}^{3}}}{\sqrt{{{a}^{4}}+{{a}^{4}}+4{{a}^{4}}}}=\dfrac{a\sqrt{6}}{3} \\
\end{aligned}$