Trong không gian với hệ trục tọa độ $Oxyz$ cho mặt phẳng $\left( P...

Ta có $\overrightarrow{AB}=(1;-1;2)$, vectơ pháp tuyến của $\left(P\right)$ là $\overrightarrow{n_{\left(P\right)}}=(3;1;-1)$.
Ta thấy hai điểm $A,B$ nằm cùng 1 phía với mặt phẳng $\left(P\right)$ và $AB$ song song với $\left(P\right)$.
Điểm $M\in \left(P\right)$ sao cho tam giác $ABM$ có diện tích nhỏ nhất
$\iff S_{\mathrm{\Delta }ABC}={\displaystyle \frac{AB.d(M;AB)}{2}}$ nhỏ nhất
$\iff d(M;AB)$ nhỏ nhất, hay $M\in \mathrm{\Delta }=\left(P\right)\cap \left(Q\right)$, $\left(Q\right)$ là mặt phẳng đi qua $AB$ và vuông góc với $\left(P\right)$.
$\Rightarrow \mathrm{\Delta }\text{//}AB$ hay $\mathrm{\Delta }$ nhận $\overrightarrow{AB}=(1;-1;2)$ là một vectơ chỉ phương.
Ta có vectơ pháp tuyến của $\left(Q\right)$ là $\overrightarrow{n_{\left(Q\right)}}=[\overrightarrow{AB};\overrightarrow{n_{\left(P\right)}}]=(-1;7;4)$
Phương trình mặt phẳng $\left(Q\right):-1(x-1)+7y+4(z-2)=0\iff x-7y-4z+7=0$
Tập hợp các điểm $M(x;y;z)$ thỏa mãn hệ phương trình $\{\begin{array}{rl}& x-7y-4z+7=0\\ & 3x+y-z+5=0\end{array}$.
Chọn $x=-1\Rightarrow y=-{\displaystyle \frac{2}{11}};z={\displaystyle \frac{20}{11}}$
$\Rightarrow \mathrm{\Delta }:\{\begin{array}{rl}& x=-1+t\\ & y=-{\displaystyle \frac{2}{11}}-t\\ & z={\displaystyle \frac{20}{11}}+2t\end{array}(t\in \mathbb{R})$.