Để tính cosin của góc giữa hai mặt phẳng (SAB) và (SBC), ta cần tìm vector pháp tuyến của mỗi mặt phẳng.

Vector pháp tuyến của mặt phẳng (SAB) là SA x AB, với SA và AB là hai vector trong mặt phẳng (SAB). Vì SA vuông góc với ABC và SA = a√3, nên ta có SA = a√3 * (-1/2) * AB. Do đó, vector pháp tuyến của mặt phẳng (SAB) là -a√3/2 * AB.

Tương tự, vector pháp tuyến của mặt phẳng (SBC) là SB x BC. Vì SB và BC cũng nằm trong mặt phẳng (SBC), ta có SB = a√3 * (-1/2) * BC. Do đó, vector pháp tuyến của mặt phẳng (SBC) là -a√3/2 * BC.

Để tính cosin của góc giữa hai vector pháp tuyến, ta sử dụng công thức:
cos(θ) = (A.B) / (|A|.|B|)

Trong đó, A và B lần lượt là hai vector pháp tuyến của hai mặt phẳng (SAB) và (SBC).

Vì AB và BC là hai cạnh của tam giác đều ABC, nên |AB| = |BC| = a.

Áp dụng công thức trên, ta có:
cos(θ) = ((-a√3/2 * AB) . (-a√3/2 * BC)) / (|-a√3/2 * AB| . |-a√3/2 * BC|)
= (3a^2/4 * AB.BC) / (3a^2/4 * |AB|.|BC|)
= (AB.BC) / (|AB|.|BC|)
= cos(0)
= 1

Vậy, cosin của góc giữa hai mặt phẳng (SAB) và (SBC) là 1.