Giải hệ phương trình \(\left\{\begin{matrix} x^3+y^3+3(y-1)(x-y)=2

Hệ pt \(\small \left\{\begin{matrix} x^3+y^3+3(y-1)(x-y)=2 \ \ (1)\\ \sqrt{x-1}+\sqrt{y+1}=\frac{(x-y)^2}{8} \ \ (2) \end{matrix}\right.\)
ĐK: \(\small x,y\geq -1\)
\(\small Pt (1) \Leftrightarrow (x+y)^3-8+6-3xy(x+y)+3(y-1)(x-y)=0\)
\(\small \Leftrightarrow (x+y-2)(x^2+y^2+2xy+2x+2y+4)-3(x+y-2)(xy+y+1)=0\)
\(\small \Leftrightarrow (x+y-2)\left [ x^2-xy+y^2+2x-y+1 \right ]=0\)
\(\small \Leftrightarrow \bigg \lbrack\begin{matrix} x+y-2=0\\ x^2-xy+y^2+2x-y+1=0 \ (*) \end{matrix}\)
\(\small Pt (*)\Leftrightarrow x^2+(2-y)x+y^2-y+1=0,\Delta =-3y^2\leq 0\)
Trường hợp y = 0 thì x = -1, không phải là nghiệm của hpt
Với y = 2 – x thay vào (2) ta được
\(\small 2\sqrt{x+1}+2\sqrt{3-x}=x^2-2x+1\)
\(\small \Leftrightarrow (2\sqrt{x+1}-x-1)+(2\sqrt{3-x}+x-3)=x^2-2x-3\)
\(\small \Leftrightarrow (x^2-2x-3)(1+\frac{1}{2\sqrt{x+1}+x+1}+\frac{1}{2\sqrt{3-x}+3-x})=0\)

\(\small \Leftrightarrow (x^2-2x-3)=0\Leftrightarrow \bigg \lbrack\begin{matrix} x=-1\Rightarrow y=3\\ x=3\Rightarrow y=-1 \end{matrix}\)
Đối chiếu với điều kiện, hpt có nghiệm (-1;3) và (3; -1)