Từ B kẻ \(BI \bot AC \Rightarrow BI \bot \left( {AA'C'C} \right)\). Từ I kẻ \(IH \bot AA' \Rightarrow \widehat {\left( {\left( {AA'C'C} \right),\left( {AA'B'B} \right)} \right)} = \widehat {BHI}\).

Theo giải thiết ta có \(AC = 3 \Rightarrow BI = \frac{{AB.BC}}{{AC}} = \sqrt 2 \)

Xét tam giác vuông BIH có \(\tan \widehat {BHI} = \frac{{BI}}{{IH}} \Leftrightarrow IH = \frac{{BI}}{{\tan \widehat {BHI}}} \Leftrightarrow IH = \frac{{4\sqrt 2 }}{3}\).

Xét tam giác vuông ABC có \(AI.AC = A{B^2} \Rightarrow AI = \frac{{A{B^2}}}{{AC}} = 2\).

Gọi M là trung điểm cả AA', do tam giác AA'C cân tại C nên \(CM \bot AA' \Rightarrow CM\;{\rm{//}}\;IH\).

Do \(\frac{{AI}}{{AC}} = \frac{{AH}}{{AM}} = \frac{2}{3} \Rightarrow \frac{{AH}}{{AM}} = \frac{2}{3} \Rightarrow \frac{{AH}}{{AA'}} = \frac{1}{3}\). Trong tam giác vuông AHI kẻ đường cao HK ta có \(HK = \frac{{4\sqrt 2 }}{9} \Rightarrow \) chiều cao của lăng trụ ABCD.A'B'C'D' là \(h = 3HK = \frac{{4\sqrt 2 }}{3}\).

Vậy thể tích khối lăng trụ ABCD.A'B'C'D' là \({V_{ABCD.A'B'C'D'\;}} = AB.AD.h = \sqrt 6 .\sqrt 3 \frac{{4\sqrt 2 }}{3} = 8\).