Để giải bài toán này, ta cần tìm giá trị của góc \( a \) thỏa mãn điều kiện \( \frac{\pi}{2} < a < 2\pi \) và \( \cot(a + \frac{\pi}{3}) = -\sqrt{3} \).

Bước 1: Tìm giá trị của góc \( b \) để thỏa mãn \( \cot(b) = -\sqrt{3} \).

- \( \cot(b) = -\sqrt{3} \) tương đương với \( \tan(b) = -\frac{1}{\sqrt{3}} \).
- Ta biết rằng \( \tan\left(\frac{5\pi}{6}\right) = -\frac{1}{\sqrt{3}} \) và \( \tan\left(\frac{11\pi}{6}\right) = -\frac{1}{\sqrt{3}} \).

Do đó, \( b \) có thể bằng:
\[ b = \frac{5\pi}{6} \]
hoặc
\[ b = \frac{11\pi}{6} \]

Bước 2: Xác định \( a \) từ \( a + \frac{\pi}{3} = b \).

1. Trường hợp 1:
\[ a + \frac{\pi}{3} = \frac{5\pi}{6} \]
\[ a = \frac{5\pi}{6} - \frac{\pi}{3} \]
\[ a = \frac{5\pi}{6} - \frac{2\pi}{6} \]
\[ a = \frac{3\pi}{6} \]
\[ a = \frac{\pi}{2} \]

2. Trường hợp 2:
\[ a + \frac{\pi}{3} = \frac{11\pi}{6} \]
\[ a = \frac{11\pi}{6} - \frac{\pi}{3} \]
\[ a = \frac{11\pi}{6} - \frac{2\pi}{6} \]
\[ a = \frac{9\pi}{6} \]
\[ a = \frac{3\pi}{2} \]

Bước 3: Kiểm tra điều kiện \( \frac{\pi}{2} < a < 2\pi \):

- Với \( a = \frac{\pi}{2} \), điều kiện không thỏa mãn vì \( a = \frac{\pi}{2} \).
- Với \( a = \frac{3\pi}{2} \), điều kiện thỏa mãn vì \( \frac{\pi}{2} < \frac{3\pi}{2} < 2\pi \).

Do đó, giá trị của góc \( a \) thỏa mãn bài toán là:
\[ a = \frac{3\pi}{2} \]