Khi quay hình vuông ABCD quanh AM ta được :

+) 1 khối nón đỉnh A, đường cao AN, bán kính đáy NB \(\left( {{V_1}} \right)\).

+) 1 khối nón cụt tâm N, P \(\left( {{V_2}} \right)\) - 1 khối nón đỉnh M, đường cao MP, bán kính đáy PC \(\left( {{V_3}} \right)\).

Ta có: \(\Delta ABN \sim \Delta MAD\,\,\left( {g.g} \right) \Rightarrow \dfrac{{AN}}{{DM}} = \dfrac{{AB}}{{AM}} \Rightarrow AN = \dfrac{{\dfrac{1}{2}.1}}{{\sqrt {{1^2} + {{\left( {\dfrac{1}{2}} \right)}^2}} }} = \dfrac{1}{{\sqrt 5 }}\).

\( \Rightarrow BN = \sqrt {A{B^2} - A{N^2}}  = \sqrt {1 - \dfrac{1}{5}}  = \dfrac{2}{{\sqrt 5 }}\).

\( \Rightarrow {V_1} = \dfrac{1}{3}\pi .{\left( {\dfrac{2}{{\sqrt 5 }}} \right)^2}.\dfrac{1}{{\sqrt 5 }} = \dfrac{{4\sqrt 5 \pi }}{{75}}\)

Ta có \(\Delta MPC \sim \Delta ANB\,\,\left( {g.g} \right) \Rightarrow \dfrac{{PC}}{{NB}} = \dfrac{{MC}}{{AB}} = \dfrac{{MP}}{{AN}} = \dfrac{1}{2} \Rightarrow \left\{ \begin{array}{l}PC = \dfrac{1}{2}NB = \dfrac{1}{{\sqrt 5 }}\\MP = \dfrac{1}{2}AN = \dfrac{1}{{2\sqrt 5 }}\end{array} \right.\).

\( \Rightarrow NP = MN + MP = AM - AN + MP = \dfrac{{\sqrt 5 }}{2} - \dfrac{1}{{\sqrt 5 }} + \dfrac{1}{{2\sqrt 5 }} = \dfrac{{2\sqrt 5 }}{5}\).

\( \Rightarrow {V_2} = \dfrac{1}{3}\pi \left( {P{C^2} + B{N^2} + PC.BN} \right).NP = \dfrac{\pi }{3}\left( {\dfrac{1}{5} + \dfrac{4}{5} + \dfrac{1}{{\sqrt 5 }}.\dfrac{2}{{\sqrt 5 }}} \right).\dfrac{{2\sqrt 5 }}{5} = \dfrac{{14\sqrt 5 }}{{75}}\pi \).

\({V_3} = \dfrac{1}{3}\pi MP.P{C^2} = \dfrac{\pi }{3}.\dfrac{1}{{2\sqrt 5 }}.{\left( {\dfrac{1}{{\sqrt 5 }}} \right)^2} = \dfrac{{\sqrt 5 \pi }}{{150}}\).

Vậy thể tích khối tròn xoay tạo thành khi quay hình vuông ABCD quanh cạnh AM là

\(V = {V_1} + {V_2} - {V_3} = \dfrac{{4\sqrt 5 \pi }}{{75}} + \dfrac{{14\sqrt 5 }}{{75}}\pi  - \dfrac{{\sqrt 5 \pi }}{{150}} = \dfrac{{7\sqrt 5 }}{{30}}\pi \).

Chọn B.