1) Giải hệ phương trình  \(\left\{ \begin{array}{l}
\left( {x - y} \right)\left( {{x^2} + xy + {y^2} + 3} \right) = 3\left( {{x^2} + {y^2}} \right) + 2\,\,\,\,\left( 1 \right)\\
{x^2}y + {x^2} - 2x - 12 = 0\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\left( 2 \right)
\end{array} \right.\,\,\)

\(\begin{array}{l}
\left( {x - y} \right)\left( {{x^2} + xy + {y^2} + 3} \right) = 3\left( {{x^2} + {y^2}} \right) + 2\\
 \Leftrightarrow \left( {x - y} \right)\left( {{x^2} + xy + {y^2}} \right) + 3(x - y) = 3({x^2} + {y^2}) + 2\\
 \Leftrightarrow {x^3} - {y^3} + 3(x - y) = 3{x^2} + 3{y^2} + 2
\end{array}\)

\(\begin{array}{l}
 \Leftrightarrow {x^3} - 3{x^2} + 3x - 1 = {y^3} + 3{y^2} + 3y + 1\\
 \Leftrightarrow {(x - 1)^3} = {(y + 1)^3} \Leftrightarrow x - 1 = y + 1 \Leftrightarrow y = x - 2
\end{array}\)

Thế \(y = x - 2\) vào phương trình (2) ta có \({x^2}(x - 2) + {x^2} - 2x - 12 = 0 \Leftrightarrow {x^3} - {x^2} - 2x - 12 = 0\).

\( \Leftrightarrow (x - 3)({x^2} + 2x + 4) = 0 \Leftrightarrow x = 3 \Rightarrow y = 1\)

Vậy hệ có nghiệm là (3;1)

2) Giải phương trình  \((x - 3)\sqrt {1 + x}  - x\sqrt {4 - x}  = 2{x^2} - 6x - 3\)    (1)

Điều kiện \( - 1 \le x \le 4\).

Phương trình \((1) \Leftrightarrow (x - 3)(\sqrt {1 + x}  - 1) - x(\sqrt {4 - x}  - 1) = 2{x^2} - 6x\)

\(\begin{array}{l}
(x - 3)\frac{x}{{\sqrt {1 + x}  + 1}} - x\frac{{3 - x}}{{\sqrt {4 - x}  + 1}} = 2{x^2} - 6x\\
 \Leftrightarrow x(x - 3)\left( {\frac{1}{{\sqrt {1 + x}  + 1}} + \frac{1}{{\sqrt {4 - x}  + 1}} - 2} \right) = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
x(x - 3) = 0\\
\frac{1}{{\sqrt {1 + x}  + 1}} + \frac{1}{{\sqrt {4 - x}  + 1}} = 2\quad (2)
\end{array} \right.\quad 
\end{array}\)

\(x(x - 3) = 0 \Leftrightarrow x = 0;x = 3\) (thỏa mãn điều kiện)

Với điều kiên \( - 1 \le x \le 4\) ta có :

 \(\left\{ \begin{array}{l}
\sqrt {1 + x}  + 1 \ge 1\\
\sqrt {4 - x}  + 1 \ge 1
\end{array} \right. \Rightarrow \left\{ \begin{array}{l}
\frac{1}{{\sqrt {1 + x}  + 1}} \le 1\\
\frac{1}{{\sqrt {4 - x}  + 1}} \le 1
\end{array} \right. \Rightarrow \frac{1}{{\sqrt {1 + x}  + 1}} + \frac{1}{{\sqrt {4 - x}  + 1}} \le 2\). Dấu " = " không xảy ra nên phương trình (2) vô nghiệm.

Vậy phương trình đã cho có hai nghiệm x = 0 và x = 3.

3) Giải bất phương trình \({x^3} + (3{x^2} - 4x - 4)\sqrt {x + 1}  \le 0\)    (1)

Điều kiện \(x \ge  - 1\).

\(\begin{array}{l}
{x^3} + (3{x^2} - 4x - 4)\sqrt {x + 1}  \le 0 \Leftrightarrow {x^3} + 3{x^2}\sqrt {x + 1}  - 4(x + 1)\sqrt {x + 1}  \le 0\\
 \Leftrightarrow {x^3} + 3{x^2}\sqrt {x + 1}  - 4{\left( {\sqrt {x + 1} } \right)^3} \le 0\quad (2)
\end{array}\)

Xét x = - 1, thay vào (2) thỏa mãn.

Xét \(x >  - 1 \Rightarrow \sqrt {x + 1}  > 0\). Chia hai vế của (2) cho \({\left( {\sqrt {x + 1} } \right)^3}\) ta được bất phương trình \({\left( {\frac{x}{{\sqrt {x + 1} }}} \right)^3} + 3{\left( {\frac{x}{{\sqrt {x + 1} }}} \right)^2} - 4 \le 0\).

Đặt \(t = \frac{x}{{\sqrt {x + 1} }}\), ta có bất phương trình \({t^3} + 3{t^2} - 4 \le 0 \Leftrightarrow (t - 1){(t + 2)^2} \le 0 \Leftrightarrow t \le 1\)

\(\begin{array}{l}
t \le 1 \Rightarrow \frac{x}{{\sqrt {x + 1} }} \le 1 \Leftrightarrow \sqrt {x + 1}  \ge x \Leftrightarrow \left[ \begin{array}{l}
 - 1 < x < 0\\
\left\{ \begin{array}{l}
x \ge 0\\
x + 1 \ge {x^2}
\end{array} \right.
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
 - 1 < x < 0\\
\left\{ \begin{array}{l}
x \ge 0\\
{x^2} - x - 1 \le 0
\end{array} \right.
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
 - 1 < x < 0\\
0 \le x \le \frac{{1 + \sqrt 5 }}{2}
\end{array} \right.\\
 \Leftrightarrow  - 1 < x \le \frac{{1 + \sqrt 5 }}{2}
\end{array}\)

Kết hợp x = - 1 là nghiệm, ta có tập nghiệm của bất phương trình \(\left[ { - 1;\frac{{1 + \sqrt 5 }}{2}} \right]\).