Chọn hệ trục tọa độ Cxyz như hình vẽ. Coi a = 1.

Khi đó, ta có: \(A\left( {0;1;0} \right),B\left( {1;0;0} \right),C'\left( {0;0;2} \right),M\left( {0;1;1} \right)\).

+) \[\overrightarrow {AB} = \left( {1; - 1;0} \right),{\mkern 1mu} {\mkern 1mu} \overrightarrow {MC'} = \left( {0; - 1;1} \right),{\mkern 1mu} {\mkern 1mu} \overrightarrow {AM} = \left( {0;0;1} \right)\].

+) \[\left[ {\overrightarrow {AB} ,\overrightarrow {MC'} } \right] = \left( { - 1; - 1; - 1} \right) \Rightarrow \left[ {\overrightarrow {AB} ,\overrightarrow {MC'} } \right].\overrightarrow {AM} = - 1\] .

Do đó, khoảng cách giữa hai đường thẳng AB và MC’ là:

\[d\left( {AB,MC'} \right) = \frac{{\left| {\left[ {\overrightarrow {AB} ,\overrightarrow {MC'} } \right].\overrightarrow {AM} } \right|}}{{\left| {\left[ {\overrightarrow {AB} ,\overrightarrow {MC'} } \right]} \right|}} = \frac{1}{{\sqrt 3 }} = \frac{{\sqrt 3 }}{3}\].

Vậy \[d\left( {AB;MC'} \right) = \frac{{a\sqrt 3 }}{3}.\] Chọn B.

Cách 2:

Gọi N là trung điểm của BB', \(D = C'N \cap BC,E = C'M \cap AC\).

Ta có:

NB // CC' và \[NB = \frac{1}{2}CC'\] nên B là trung điểm của CD hay CD = 2BC = 2a.

MA // CC' và \[MA = \frac{1}{2}CC\prime \] nên A là trung điểm của CE hay CE = 2CA = 2a.

Ta có\[\left\{ \begin{array}{l}AB//MN\\MN \subset (C\prime DE)\\AB \not\subset (C\prime DE)\end{array} \right. \Rightarrow AB//(C\prime DE).\]

Khi đó \[d(AB,MC\prime ) = d(AB,(C\prime DE)) = d(A,(C\prime DE)) = \frac{1}{2}d(C,(C\prime DE)) = \frac{1}{2}h\]

Vì CC′DE là tứ diện vuông tại C nên 

\(\frac{1}{{{h^2}}} = \frac{1}{{C{D^2}}} + \frac{1}{{C{E^2}}} + \frac{1}{{CC{'^2}}} = \frac{1}{{4{a^2}}} + \frac{1}{{4{a^2}}} + \frac{1}{{4{a^2}}} = \frac{3}{{4{a^2}}} \Rightarrow h = \frac{{2a\sqrt 3 }}{3}\).

Vậy \[d\left( {AB,MC\prime } \right) = \frac{{a\sqrt 3 }}{3}\]. Chọn B.