Trong không gian với hệ trục tọa độ $Oxyz,$ cho hai điểm $A\left(...

Cách 1.
Ta có . Điểm thuộc đoạn và không trùng với hai đầu mút nên ta giả sử
Khi đó tọa độ của điểm là và .
Tâm của mặt cầu là trung điểm của có tọa độ , bán kính
Bán kính đường tròn đáy của nón là
Thể tích khối nón:

Đẳng thức xảy ra khi và chỉ khi .
Khi đó .
Mặt phẳng qua , nhận làm véc tơ pháp tuyến có phương trình:
.
Do đó:
Cách 2.
Ta có .
Gọi là trung điểm Bán kính mặt cầu là .
Giả sử . Xét điểm đối xứng với qua thì mặt phẳng qua cắt mặt cầu với đường tròn có cùng bán kính nên thể tích khối nón sẽ lớn hơn nếu nằm khác phía so với điểm . Khi đó chiều cao của nón là
Bán kính mặt nón là: .
Thể tích khối nón là: .
Xét hàm số có

Bảng biến thiên
. Khi đó
Đường thẳng nhận làm vectơ chỉ phương nên có phương trình
Suy ra .
Mà
Với .
Với
Khi đó, mặt phẳng đi qua và nhận vectơ làm vectơ pháp tuyến nên có phương trình là
.
Do đó: