Tìm giá trị lớn nhất và giá trị nhỏ nhất của hàm số cho sau: \(y = {\left( {\sin x - \cos x} \right)^2} + 2\cos 2x + 3\sin x\cos x\)

Ta có:

\(y = {\left( {\sin x - \cos x} \right)^2} + 2\cos 2x + 3\sin x\cos x \)

\(\begin{array}{l}
= {\sin ^2}x - 2\sin x\cos x + {\cos ^2}x + 2\cos 2x + \frac{3}{2}.2\sin x\cos x\\
= 1 - \sin 2x + 2\cos 2x + \frac{3}{2}\sin 2x
\end{array}\)

\(= 1 + {1 \over 2}\sin 2x + 2\cos 2x.\)

\(\begin{array}{l}
\frac{1}{2}\sin 2x + 2\cos 2x\\
= \frac{{\sqrt {17} }}{2}\left( {\frac{1}{{\sqrt {17} }}\sin 2x + \frac{4}{{\sqrt {17} }}\cos 2x} \right)\\
= \frac{{\sqrt {17} }}{2}\sin \left( {2x + \alpha } \right)
\end{array}\)

với \(\alpha\) thỏa mãn 

\({\left\{ \begin{array}{l}
\cos \alpha = \frac{1}{{\sqrt {17} }}\\
\sin \alpha = \frac{4}{{\sqrt {17} }}
\end{array} \right.}\)

Mà \( - 1 \le \sin \left( {2x + \alpha } \right) \le 1\) nên \( - \frac{{\sqrt {17} }}{2} \le \frac{{\sqrt {17} }}{2}\sin \left( {2x + \alpha } \right) \le \frac{{\sqrt {17} }}{2}\)

Do đó:

\(\begin{array}{l}
- \frac{{\sqrt {17} }}{2} \le \frac{1}{2}\sin 2x + 2\cos 2x \le \frac{{\sqrt {17} }}{2}\\
\Rightarrow 1 - \frac{{\sqrt {17} }}{2} \le 1 + \frac{1}{2}\sin 2x + 2\cos 2x \le 1 + \frac{{\sqrt {17} }}{2}\\
\Rightarrow 1 - \frac{{\sqrt {17} }}{2} \le y \le 1 + \frac{{\sqrt {17} }}{2}
\end{array}\)

Vậy giá trị lớn nhất và giá trị nhỏ nhất của y theo thứ tự là \(1 + {{\sqrt {17} } \over 2}\) và  \(1 - {{\sqrt {17} } \over 2}\).