Cho x, y là các số thực thỏa mãn điều kiện...

Điều kiện$\left\{ \begin{aligned}
& x>y \\
& xy<1 \\
\end{aligned} \right..$
Ta có ${{3}^{{{x}^{2}}+{{y}^{2}}-2}}{{\log }_{2}}\left( x-y \right)=\dfrac{1}{2}\left[ 1+{{\log }_{2}}\left( 1-xy \right) \right]\Leftrightarrow {{3}^{{{x}^{2}}+{{y}^{2}}-2}}{{\log }_{2}}{{\left( x-y \right)}^{2}}={{\log }_{2}}\left( 2-2xy \right)$
$\Leftrightarrow {{3}^{{{x}^{2}}+{{y}^{2}}-2}}{{\log }_{2}}\left( {{x}^{2}}-{{y}^{2}}-2+\left( 2-2xy \right) \right)={{\log }_{2}}\left( 2-2xy \right)$
$\Leftrightarrow {{3}^{u}}{{\log }_{2}}\left( u+v \right)={{\log }_{2}}v$, với $\left\{ \begin{aligned}
& u={{x}^{2}}+{{y}^{2}}-2 \\
& v=2-2xy \\
\end{aligned} \right.$
$\Leftrightarrow {{3}^{u+v}}{{\log }_{2}}\left( u+v \right)={{3}^{v}}{{\log }_{2}}v,\left( * \right)$
Xét hàm số $f\left( t \right)={{3}^{t}}.{{\log }_{2}}t$, với $t>0$. Có ${f}'\left( t \right)={{3}^{t}}.\left( \ln 3.{{\log }_{2}}t+\dfrac{1}{t\ln 2} \right)>0,\forall t>0$
Do đó $\left( * \right)\Leftrightarrow u+v=v\Leftrightarrow u=0\Leftrightarrow {{x}^{2}}+{{y}^{2}}-2=0\Leftrightarrow xy=\dfrac{{{\left( x+y \right)}^{2}}-2}{2}<1,\left( 1 \right)$
Ta có $P=2{{x}^{3}}+2{{y}^{3}}-3xy=2\left[ {{\left( x+y \right)}^{3}}-3xy\left( x+y \right) \right]-3xy$
$\Rightarrow P=2{{\left( x+y \right)}^{3}}-3\left[ {{\left( x+y \right)}^{2}}-2 \right]\left( x+y \right)-\dfrac{3}{2}\left[ {{\left( x+y \right)}^{2}}-2 \right]$
$=2{{t}^{3}}-3\left( {{t}^{2}}-2 \right)t-\dfrac{3}{2}\left( t-2 \right)=-{{t}^{3}}-\dfrac{3}{2}{{t}^{2}}+6t+3=f\left( t \right)$, với $t=x+y$ và $\left| t \right|<2$ (do (1))
Có ${f}'\left( t \right)=-3{{t}^{2}}-3t+6$, cho ${f}'\left( t \right)=0\Leftrightarrow \left[ \begin{aligned}
& t=-2 \\
& t=1 \\
\end{aligned} \right.$. Bảng biến thiên
Từ bảng biến thiên, suy ra $\max P=\dfrac{13}{2}$ khi $x+y=1.$