Trong không gian với hệ tọa độ Oxyz, gọi (P) là mặt phẳng đi qua...

Do (P) có một vecto pháp tuyến và qua nên có phương trình

Do (P) đi qua nên .
Với , ta có


Ta có
Cho
Bảng biến thiên
Như vậy d đạt giá trị lớn nhất khi và chỉ khi đạt giá trị lớn nhất khi

Cách khác:
Gọi H, K lần lượt là hình chiếu của M trên (P) và đường thẳng AB.
Ta có và . Dấu bằng xảy ra khi , khi đó:
, mặt phẳng (P) nhận làm vecto pháp tuyến.
Vậy