a) Giải phương trình:  \(\sqrt {x + 1}  + \sqrt {6x - 14}  = {x^2} - 5\)

Điều kiện: \(x \ge \frac{7}{3}.\)

Nhận xét: với điều kiện trên thì vế phải của phương trình luôn dương.

Ta có: \(\sqrt {x + 1}  + \sqrt {6x - 14}  = {x^2} - 5 \Leftrightarrow \sqrt {x + 1}  - 2 + \sqrt {6x - 14}  - 2 = {x^2} - 9.\)

\(\begin{array}{l}
 \Leftrightarrow \frac{{x - 3}}{{\sqrt {x + 1}  + 2}} + \frac{{6\left( {x - 3} \right)}}{{\sqrt {6x - 14}  + 2}} - \left( {x - 3} \right)\left( {x + 3} \right) = 0.\\
 \Leftrightarrow \left( {x - 3} \right)\left[ {\frac{1}{{\sqrt {x + 1}  + 2}} + \frac{6}{{\sqrt {6x - 14}  + 2}} - \left( {x + 3} \right)} \right] = 0.
\end{array}\)

\( \Leftrightarrow \left[ \begin{array}{l}
x - 3 = 0\\
\frac{1}{{\sqrt {x + 1}  + 2}} + \frac{6}{{\sqrt {6x - 14}  + 2}} - \left( {x + 3} \right) = 0
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
x = 3\\
\frac{1}{{\sqrt {x + 1}  + 2}} + \frac{6}{{\sqrt {6x - 14}  + 2}} = \left( {x + 3} \right){\rm{    }}\left( * \right)
\end{array} \right..\)

Ta có: \(\left\{ \begin{array}{l}
VT\left( * \right) < \frac{7}{2}\\
VP\left( * \right) > \frac{{16}}{3}
\end{array} \right.{\rm{    }}\left( {\forall x \ge \frac{7}{3}} \right) \Rightarrow {\rm{ }}PT\left( * \right)VN.\)

Vậy phương trình có nghiệm duy nhất x = 3

b) Giải hệ phương trình \(\left\{ \begin{array}{l}
\left( {{x^2} + 1} \right)\left( {{y^2} + 1} \right) = 10\\
\left( {x + y} \right)\left( {xy - 1} \right) = 3
\end{array} \right.\)

\(\begin{array}{*{20}{l}}
{\left\{ {\begin{array}{*{20}{l}}
{\left( {{x^2} + 1} \right)({y^2} + 1) = 10}\\
{\left( {x + y} \right)\left( {xy - 1} \right) = 3}
\end{array}} \right. \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}
{{x^2}{y^2} + {x^2} + {y^2} + 1 = 10}\\
{\left( {x + y} \right)\left( {xy - 1} \right) = 3}
\end{array}} \right. \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}
{{{\left( {x + y} \right)}^2} + {{\left( {xy - 1} \right)}^2} = 10}\\
{\left( {x + y} \right)\left( {xy - 1} \right) = 3}
\end{array}} \right.\left( I \right)}
\end{array}\)

Đặt \(\left\{ \begin{array}{l}
x + y = u\\
xy - 1 = v
\end{array} \right..\)

Khi đó, ta có: \(\left( I \right) \Leftrightarrow \left\{ \begin{array}{l}
{u^2} + {v^2} = 10\\
uv = 3
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
{\left( {u + v} \right)^2} - 2uv = 10\\
uv = 3
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
{\left( {u + v} \right)^2} = 16\\
uv = 3
\end{array} \right.\)

\( \Leftrightarrow \left[ \begin{array}{l}
\left\{ \begin{array}{l}
u + v = 4\\
uv = 3
\end{array} \right.\\
\left\{ \begin{array}{l}
u + v =  - 4\\
uv = 3
\end{array} \right.
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
\left\{ \begin{array}{l}
u = 1\\
v = 3
\end{array} \right.\\
\left\{ \begin{array}{l}
u = 3\\
v = 1
\end{array} \right.\\
\left\{ \begin{array}{l}
u =  - 1\\
v =  - 3
\end{array} \right.\\
\left\{ \begin{array}{l}
u =  - 3\\
v =  - 1
\end{array} \right.
\end{array} \right.\)

- Với \(\left\{ \begin{array}{l}
u = 1\\
v = 3
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
x + y = 1\\
xy = 4
\end{array} \right.{\rm{  }}\left( {HPTVN} \right)\)

- Với \(\left\{ \begin{array}{l}
u = 3\\
v = 1
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
x + y = 3\\
xy = 2
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
\left[ \begin{array}{l}
x = 1\\
y = 2
\end{array} \right.\\
\left[ \begin{array}{l}
x = 2\\
y = 1
\end{array} \right.
\end{array} \right.\)

- Với \(\left\{ \begin{array}{l}
u =  - 1\\
v =  - 3
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
x + y =  - 1\\
xy =  - 2
\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}
\left\{ \begin{array}{l}
x = 1\\
y =  - 2
\end{array} \right.\\
\left\{ \begin{array}{l}
x =  - 2\\
y = 1
\end{array} \right.
\end{array} \right.\)

- Với \(\left\{ \begin{array}{l}
u =  - 3\\
v =  - 1
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
x + y =  - 3\\
xy = 0
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
\left[ \begin{array}{l}
x = 0\\
y =  - 3
\end{array} \right.\\
\left[ \begin{array}{l}
x =  - 3\\
y = 0
\end{array} \right.
\end{array} \right.\)

Vậy hệ phương trình có các nghiệm là: \(\left( {1;2} \right),\left( {2;1} \right),\left( {1; - 2} \right),\left( { - 2;1} \right),\left( {0; - 3} \right),\left( { - 3;0} \right)\)