Dựng \[DH \bot \left( {ABC} \right)\].

Ta có \[\left\{ \begin{array}{l}BA \bot DA\\BA \bot DH\end{array} \right. \Rightarrow BA \bot \left( {DAH} \right) \Rightarrow BA \bot AH\].

Tương tự \[\left\{ \begin{array}{l}BC \bot DB\\BC \bot DH\end{array} \right. \Rightarrow BC \bot \left( {DBH} \right) \Rightarrow BC \bot BH\].

Tam giác AHB có \[AB = a,\widehat {ABH} = 45^\circ \].

\[ \Rightarrow \Delta HAB\] vuông cân tại \[A \Rightarrow AH = AB = a\].

Áp dụng định lý cosin cho \(\Delta ABC\), ta có \(A{C^2} = A{B^2} + B{C^2} - 2AB.BC.\cos \widehat {ABC}\)

\( \Leftrightarrow 5{a^2} = {a^2} + B{C^2} + \sqrt 2 a.BC\)\( \Leftrightarrow BC = a\sqrt 2 \).

Vậy \[{S_{\Delta ABC}} = \frac{1}{2}.BA.BC.\sin \widehat {CBA} = \frac{1}{2}.a.a\sqrt 2 .\frac{{\sqrt 2 }}{2} = \frac{{{a^2}}}{2}\].

Dựng \[\left\{ \begin{array}{l}HE \bot DA\\HF \bot DB\end{array} \right. \Rightarrow HE \bot \left( {DAB} \right)\] và \[HF \bot \left( {DBC} \right)\].

Suy ra \[\left( {\left( {DBA} \right),\left( {DBC} \right)} \right) = \left( {HE,HF} \right) = \widehat {EHF}\] và tam giác HEF vuông tại E.

Đặt \[DH = x\], khi đó \[HE = \frac{{ax}}{{\sqrt {{a^2} + {x^2}} }},HF = \frac{{xa\sqrt 2 }}{{\sqrt {2{a^2} + {x^2}} }}\].

Suy ra \[\cos \widehat {EHF} = \frac{{HE}}{{HF}} = \sqrt {\frac{3}{4}} = \frac{{\sqrt {{x^2} + 2{a^2}} }}{{\sqrt {2{x^2} + 2{a^2}} }} \Rightarrow x = a\].

Vậy \[{V_{ABCD}} = \frac{1}{3}.DH.{S_{\Delta ABC}} = \frac{{{a^3}}}{6}\]. Chọn D.