Giải hệ phương trình sau: \(\left\{\begin{matrix} y\sqrt{3-x}+\sqrt{x(3-y^2)}=(x+y^2-3)^2+3

\(\left\{\begin{matrix} y\sqrt{3-x}+\sqrt{x(3-y^2)}=(x+y^2-3)^2+3 \ \ (1)\\ 2\sqrt{x-1}=y^3+2y-1 \ \ \ \ \ \ \ \ (2)\end{matrix}\right.\)
Điều kiện \(1\leq x\leq 3;-\sqrt{3}\leq y\leq \sqrt{3} \ \ (*)\)

Từ (2) ta có: \(y^3+2y-1\geq 0\Leftrightarrow y^3+2y\geq 1\Rightarrow y^2+2y>0\Leftrightarrow y(y^2+2)>0 \Leftrightarrow y>0\)
Do đó ta có: \(1\leq x\leq 3,0< y\leq \sqrt{3}\) (**)
Theo Cauchy ta có: \(y\sqrt{3-x}\leq \frac{y^2+3-x}{2};\sqrt{x(3-y^2)}\leq \frac{x+3-y^2}{2}\)
\(\Rightarrow y\sqrt{3-x}+\sqrt{x(3-y^2)}\leq \frac{y^2+3-x}{2}+\frac{x+3-y^2}{2}= 3\Rightarrow VT(1)\leq 3\)
Mặt khác ta có: \(VT(1)=(x+y^2-3)^2+3\geq 3\)
Do đó (1) \(\Leftrightarrow \left\{\begin{matrix} y=\sqrt{3-x}\\ x=3-y^2\\ x+y^2-3=0 \end{matrix}\right.\Leftrightarrow x=3-y^2\) với \(0\leq y\leq \sqrt{3}\)
Thay vào (2) ta được: \(2\sqrt{2-y^2}=y^3+2y-1\) với \(0\leq y\leq \sqrt{2} (**)\)

\(\Leftrightarrow y^3+2y-3+2(1-\sqrt{2-y^2})=0\)
\(\Leftrightarrow (y-1)(y^2+y+3)+\frac{2(y^2-1)}{1+\sqrt{2-y^2}}=0\)
\(\Leftrightarrow (y-1)\left ( y^2+y+3+\frac{3(y+1)}{1+\sqrt{2-y^2}} \right )=0\)
\(\Leftrightarrow y=1(do \ y^2+y+3+\frac{3(y+1)}{1+\sqrt{2-y^2}}>0;\forall y\in \left [ 0;\sqrt{2} \right ]\)
\(\Rightarrow x=2\) thỏa mãn (*)(**)
Vậy nghiệm của hệ phương trình là: x =2; y = 1