Gọi \(O\) là tâm hình vuông. \(E,F\) là giao điểm của \(\left( \alpha  \right)\) với \(SB,SD\).

Do \(BD//\left( \alpha  \right)\) nên \(EF//BD\).

Gọi \(H = SO \cap EF\), \(I = AH \cap SC\).

Thiết diện của hình chóp cắt bởi \(\left( \alpha  \right)\) chính là tứ giác \(AEIF\).

Đặt \(V = {V_{S.ABCD}} \Rightarrow {V_{S.AEIF}} = \dfrac{1}{2}V\)

Ta có: \({V_{S.AEIF}} = {V_{S.AEI}} + {V_{S.AFI}}\)

\(\begin{array}{l}\dfrac{{{V_{S.AEI}}}}{{{V_{S.ABC}}}} = \dfrac{{SE}}{{SB}}.\dfrac{{SI}}{{SC}} \Rightarrow \dfrac{{2{V_{S.AEI}}}}{V} = \dfrac{{SE}}{{SB}}.\dfrac{{SI}}{{SC}}\\\dfrac{{{V_{S.AFI}}}}{{{V_{S.ADC}}}} = \dfrac{{SF}}{{SD}}.\dfrac{{SI}}{{SC}} \Rightarrow \dfrac{{2{V_{S.AFI}}}}{V} = \dfrac{{SF}}{{SD}}.\dfrac{{SI}}{{SC}}\\ \Rightarrow \dfrac{{2{V_{S.AEI}}}}{V} + \dfrac{{2{V_{S.AFI}}}}{V} = \dfrac{{SE}}{{SB}}.\dfrac{{SI}}{{SC}} + \dfrac{{SF}}{{SD}}.\dfrac{{SI}}{{SC}} = \dfrac{{SI}}{{SC}}.\left( {\dfrac{{SE}}{{SB}} + \dfrac{{SF}}{{SD}}} \right)\\ \Rightarrow \dfrac{{2{V_{S.AEFI}}}}{V} = 2.\dfrac{{SI}}{{SC}}.\dfrac{{SE}}{{SB}} \Rightarrow \dfrac{{2.\dfrac{1}{2}V}}{V} = 2.\dfrac{{SI}}{{SC}}.\dfrac{{SE}}{{SB}} \Rightarrow \dfrac{{SI}}{{SC}}.\dfrac{{SE}}{{SB}} = \dfrac{1}{2}\,\,\left( * \right)\end{array}\)  

Lại có, áp dụng định lý Menelaus cho bộ ba điểm \(A,H,I\) thẳng hàng đối với tam giác \(SOC\) ta có:

\(\dfrac{{IS}}{{IC}}.\dfrac{{AC}}{{AO}}.\dfrac{{HO}}{{HS}} = 1 \Rightarrow \dfrac{{IS}}{{IC}}.2.\dfrac{{HO}}{{HS}} = 1 \Rightarrow \dfrac{{IS}}{{IC}}.\dfrac{{HO}}{{HS}} = \dfrac{1}{2}\)

Đặt \(\dfrac{{SE}}{{SB}} = \dfrac{{SF}}{{SD}} = \dfrac{{SH}}{{SO}} = k > 0\)

\( \Rightarrow SH = k.SO = k\left( {SH + HO} \right) \Rightarrow \left( {1 - k} \right)SH = k.HO \Rightarrow \dfrac{{HO}}{{HS}} = \dfrac{{1 - k}}{k}\)  

Suy ra

\(\begin{array}{l}\dfrac{{SI}}{{IC}}.\dfrac{{1 - k}}{k} = \dfrac{1}{2} \Rightarrow \dfrac{{SI}}{{IC}} = \dfrac{k}{{2\left( {1 - k} \right)}} \Rightarrow 2\left( {1 - k} \right)SI = k\left( {SC - SI} \right)\\ \Rightarrow \left( {2 - k} \right)SI = kSC \Rightarrow \dfrac{{SI}}{{SC}} = \dfrac{k}{{2 - k}}\end{array}\) 

Thay \(\dfrac{{SE}}{{SB}} = k,\dfrac{{SI}}{{SC}} = \dfrac{k}{{2 - k}}\) vào \(\left( * \right)\) ta được:

\(k.\dfrac{k}{{2 - k}} = \dfrac{1}{2} \Leftrightarrow 2{k^2} = 2 - k \Leftrightarrow 2{k^2} + k - 2 = 0 \Leftrightarrow \left[ \begin{array}{l}k = \dfrac{{ - 1 + \sqrt {17} }}{4}\,\,\left( {tm} \right)\\k = \dfrac{{ - 1 - \sqrt {17} }}{4}\,\,\left( {ktm} \right)\end{array} \right.\)

Do đó \(\dfrac{{SE}}{{SB}} = \dfrac{{EF}}{{BD}} = \dfrac{{\sqrt {17}  - 1}}{4}\).

Mà \(BD = a\sqrt 2 \) nên \(EF = \dfrac{{\sqrt {17}  - 1}}{4}.a\sqrt 2  = \dfrac{{\sqrt {34}  - \sqrt 2 }}{4}a\).

Xét tam giác \(SAC\) có \(SA = SC = 2a,AC = a\sqrt 2  \Rightarrow \cos S = \dfrac{{4{a^2} + 4{a^2} - 2{a^2}}}{{2.2a.2a}} = \dfrac{3}{4}\)

\(\dfrac{{SI}}{{SC}} = \dfrac{k}{{2 - k}} = \dfrac{{\dfrac{{\sqrt {17}  - 1}}{4}}}{{2 - \dfrac{{\sqrt {17}  - 1}}{4}}} = \dfrac{{1 + \sqrt {17} }}{8} \Rightarrow SI = \dfrac{{1 + \sqrt {17} }}{8}SC = \dfrac{{1 + \sqrt {17} }}{8}.2a = \dfrac{{1 + \sqrt {17} }}{4}a\)

Xét tam giác \(SAI\) có:

\(\begin{array}{l}A{I^2} = S{A^2} + S{I^2} - 2SA.SI.\cos S\\\,\,\,\,\,\,\,\,\, = 4{a^2} + {\left( {\dfrac{{1 + \sqrt {17} }}{4}a} \right)^2} - 2.2a.\dfrac{{1 + \sqrt {17} }}{4}a.\dfrac{3}{4} = \dfrac{{35 - 5\sqrt {17} }}{8}{a^2}\end{array}\)

Suy ra \(AI = \dfrac{{\sqrt {35 - 5\sqrt {17} } }}{{2\sqrt 2 }}a\).

Nhận xét: Tứ giác \(AEIF\) có \(EF \bot AI\) (vì \(EF//BD\) và \(BD \bot \left( {SAC} \right) \Rightarrow BD \bot AI\))

Vậy diện tích thiết diện là: \({S_{AEIF}} = \dfrac{1}{2}AI.EF = \dfrac{1}{2}.\dfrac{{\sqrt {35 - 5\sqrt {17} } }}{{2\sqrt 2 }}a.\dfrac{{\sqrt {34}  - \sqrt 2 }}{4}a = \dfrac{{\sqrt {70 - 10\sqrt {17} } \left( {\sqrt {34}  - \sqrt 2 } \right)}}{{32}}{a^2}\)

Chọn D