Gọi V là thể tích của khối đa diện lồi có các đỉnh là các điểm A, M, N, \(A'\), \(B'\) và \(C'\).

Khi đó ta có \(V = {V_{M.A'AN}} + {V_{M.A'C'N}} + {V_{M.A'B'C'}}\)

Từ giả thiết ta có

\({S_{\Delta A'AN}} = \frac{1}{2}AA'.AN = \frac{1}{2}.a.\frac{a}{3} = \frac{{{a^2}}}{6};\,{S_{\Delta A'C'N}} = \frac{1}{2}d\left( {N,A'C'} \right).A'C' = \frac{1}{2}.a.a = \frac{{{a^2}}}{2};\)

\({S_{\Delta A'B'C'}} = \frac{{{a^2}\sqrt 3 }}{4}\) .

Gọi H là trung điểm của \(AC \Rightarrow BH \bot \left( {ACC'A'} \right)\) và \(BH = \frac{{a\sqrt 3 }}{2}\) .

\( \Rightarrow d\left( {M,\left( {ACC'A'} \right)} \right) = \frac{1}{2}d\left( {B,\left( {ACC'A'} \right)} \right) = \frac{1}{2}BH = \frac{{a\sqrt 3 }}{4}.\)

Khi đó ta có

\({V_{M.A'AN}} = \frac{1}{3}d\left( {M;\left( {ACC'A'} \right)} \right).{S_{\Delta A'AN}} = \frac{1}{3}.\frac{{a\sqrt 3 }}{4}.\frac{{{a^2}}}{6} = \frac{{{a^3}\sqrt 3 }}{{72}}.\)

\(\begin{array}{l}{V_{M.A'C'N}} = \frac{1}{3}d\left( {M,\left( {ACC'A'} \right)} \right).{S_{\Delta A'C'N}} = \frac{1}{3}.\frac{{a\sqrt 3 }}{4}.\frac{{{a^2}}}{2} = \frac{{{a^3}\sqrt 3 }}{{24}}.\\{V_{M.A'B'C'}} = \frac{1}{3}d\left( {M,\left( {A'B'C'} \right)} \right).{S_{\Delta A'B'C'}} = \frac{1}{3}.a.\frac{{{a^2}\sqrt 3 }}{4} = \frac{{{a^3}\sqrt 3 }}{{12}}.\end{array}\)

Vậy \(V = {V_{M.A'AN}} + {V_{M.A'C'N}} + {V_{M.A'B'C'}} = \frac{{{a^3}\sqrt 3 }}{{72}} + \frac{{{a^3}\sqrt 3 }}{{24}} + \frac{{{a^3}\sqrt 3 }}{{12}} = \frac{{5\sqrt 3 {a^3}}}{{36}}\). Chọn C.