Đồ thị hàm số $\left( C \right):y=\dfrac{2x+1}{x+1}$ cắt đường thẳng $d:y=x+m$ tại hai điểm phân biệt $A,B$ thỏa mãn $\Delta OAB$ vuông tại $O$...

Phương trình hoành độ giao điểm của $\left( C \right)$ và $d$ là: $\dfrac{2x+1}{x+1}=x+m\Leftrightarrow \left\{ \begin{aligned}
& x+1\ne 0 \\
& 2x+1=\left( x+1 \right)\left( x+m \right) \\
\end{aligned} \right.$
$\Leftrightarrow \left\{ \begin{aligned}
& x\ne -1 \\
& {{x}^{2}}+\left( m-1 \right)x+m-1=0\left( 1 \right) \\
\end{aligned} \right.$
$\left( C \right)$ cắt $d$ tại hai điểm phân biệt $A,B\Leftrightarrow \left( 1 \right)$ có hai nghiệm phân biệt khác $-1({{x}_{A}},{{x}_{B}}$ là nghiệm phương trình $\left( 1 \right))\Leftrightarrow \left\{ \begin{aligned}
& {{\Delta }_{\left( 1 \right)}}>0 \\
& {{\left( -1 \right)}^{2}}+\left( m-1 \right)\left( -1 \right)+m-1\ne 0 \\
\end{aligned} \right.\Leftrightarrow \left\{ \begin{aligned}
& {{\left( m-1 \right)}^{2}}-4\left( m-1 \right)>0 \\
& 1-m+1+m-1\ne 0 \\
\end{aligned} \right.$
$\Leftrightarrow \left\{ \begin{aligned}
& \left( m-1 \right)\left( m-5 \right)>0 \\
& 1\ne 0 \\
\end{aligned} \right.\Leftrightarrow \left[ \begin{aligned}
& m<1 \\
& m>5 \\
\end{aligned} \right.$
Theo định lí Viet: ${{x}_{A}}+{{x}_{B}}=1-m,{{x}_{A}}{{x}_{B}}=m-1$
$A\left( {{x}_{A}};{{x}_{A}}+m \right),B\left( {{x}_{B}};{{x}_{B}}+m \right)$
$\overrightarrow{OA}=\left( {{x}_{A}};{{x}_{A}}+m \right),\overrightarrow{OB}=\left( {{x}_{B}},{{x}_{B}}+m \right)$
$\Delta OAB$ vuông tại $O\Leftrightarrow \overrightarrow{OA}.\overrightarrow{OB}=0\Leftrightarrow {{x}_{A}}.{{x}_{B}}+\left( {{x}_{A}}+m \right)\left( {{x}_{B}}+m \right)=0$
$\Leftrightarrow 2{{x}_{A}}{{x}_{B}}+m\left( {{x}_{A}}+{{x}_{B}} \right)+{{m}^{2}}=0\Leftrightarrow 2m-2+m\left( 1-m \right)+{{m}^{2}}=0\Leftrightarrow 3m-2=0\Leftrightarrow m=\dfrac{2}{3}$ (nhận)
Theo đề bài ta có $a=2,b=3.$ Vậy $S=5.$