a) Để tính góc giữa \( AC \) và mặt phẳng \( SBC \), ta cần tìm góc giữa \( AC \) và \( SB \) sau đó sử dụng định lý cosin.

Gọi \( \alpha \) là góc giữa \( AC \) và \( SB \).

Vì \( SA \) vuông góc với mặt phẳng đáy nên ta có \( SA \perp AB \). Do đó, góc \( BAS \) là góc \( 45^\circ \) (vì \( ABCD \) là hình vuông).

\( SB = SA \) vì \( SBC \) là tam giác vuông tại \( S \), nên góc \( SBA \) cũng là \( 45^\circ \).

Áp dụng định lý cosin trong tam giác \( ABC \):
\[ \cos(\alpha) = \frac{AC^2 + AB^2 - BC^2}{2 \cdot AC \cdot AB} = \frac{a^2 + a^2 - a^2}{2 \cdot a \cdot a} = \frac{1}{2} \]

\( \alpha = \arccos\left(\frac{1}{2}\right) = 60^\circ \)

Vậy, góc giữa \( AC \) và mặt phẳng \( SBC \) là \( 60^\circ \).

b) Để tính khoảng cách giữa hai đường thẳng \( AB \) và \( CM \), ta tính khoảng cách từ điểm \( M \) đến đường thẳng \( AB \).

Vì \( M \) là trung điểm của \( SD \), ta có \( SM = \frac{1}{2} SD \).

Ta biết \( SD \) là đường cao của hình chóp \( S.ABCD \), do đó \( SD = SA \cdot \sqrt{2} = a\sqrt{3} \cdot \sqrt{2} = a\sqrt{6} \).

Vậy, \( SM = \frac{1}{2} SD = \frac{a\sqrt{6}}{2} \).

Khoảng cách từ một điểm đến một đường thẳng là khoảng cách từ điểm đó tới mặt phẳng chứa đường thẳng và sau đó chiếu vuông góc từ điểm đó đến đường thẳng.

Vì \( M \) là trung điểm của \( SD \) nên \( CM \) là đường trung bình của tam giác \( SCD \), do đó \( CM \) vuông góc với \( SD \), suy ra \( CM \) vuông góc với mặt phẳng \( SCD \).

Vậy, khoảng cách từ \( M \) đến đường thẳng \( AB \) là \( SM = \frac{a\sqrt{6}}{2} \).

Vậy, khoảng cách giữa hai đường thẳng \( AB \) và \( CM \) là \( \frac{a\sqrt{6}}{2} \).