Gọi điểm D sao cho ABCD là hình bình hành và O là giao điểm của AC và BD.

Ta có \(AB'//DC'\) nên \(AB'//\left( {BDC'} \right)\).

Suy ra \(d\left( {AB',BC'} \right) = d\left( {AB',\left( {BDC'} \right)} \right) = d\left( {A,\left( {BDC'} \right)} \right) = d\left( {C,\left( {BDC'} \right)} \right)\).

Trong (ABCD), kẻ CK vuông góc BD tại K; trong \(\left( {KCC'} \right)\), kẻ CH vuông góc \(C'K\) tại H.

Vì \(\left\{ \begin{array}{l}BD \bot CK\\BD \bot CC'\end{array} \right. \Rightarrow BD \bot \left( {KCC'} \right) \Rightarrow \left( {BDC'} \right) \bot \left( {KCC'} \right)\).

Lại có \(\left. \begin{array}{l}\left( {BDC'} \right) \bot \left( {KCC'} \right)\\\left( {BDC'} \right) \cap \left( {KCC'} \right) = KC'\\CH \bot KC'\end{array} \right\} \Rightarrow CH \bot \left( {BDC'} \right)\).

Suy ra \(CH = d\left( {C,\left( {BDC'} \right)} \right)\) .

Trong \(\Delta COD\) vuông tại C có

\(CD = AB = a,\,OC = \frac{1}{2}AC = \frac{a}{2},CK\) là đường cao nên

\(\frac{1}{{C{K^2}}} = \frac{1}{{C{O^2}}} + \frac{1}{{C{D^2}}} = \frac{4}{{{a^2}}} + \frac{1}{{{a^2}}} = \frac{5}{{{a^2}}}\).

Trong \(\Delta CC'K\) vuông tại C có \(CC' = AA' = a\sqrt 3 ,CH\) là đường cao nên

\[\frac{1}{{C{H^2}}} = \frac{1}{{C{K^2}}} + \frac{1}{{C{{C'}^2}}} = \frac{5}{{{a^2}}} + \frac{1}{{3{a^2}}} = \frac{{16}}{{3{a^2}}} \Rightarrow CH = \frac{{a\sqrt 3 }}{4}\].

\( \Rightarrow d\left( {AB',BC'} \right) = d\left( {C,\left( {BDC'} \right)} \right) = CH = \frac{{a\sqrt 3 }}{4}.\)

Vậy \(d\left( {AB',BC'} \right) = \frac{{a\sqrt 3 }}{4}\). Chọn B.