Để tính các giá trị \( \tan a \), \( \sin^2 a \), \( \tan(a + \frac{\pi}{6}) \), và \( \tan(4a) \) khi biết \( \cot a = -3 \) và \( \frac{\pi}{2} < a < \pi \), ta thực hiện các bước sau:

### 1. Tính \( \tan a \)

- Biết rằng \( \cot a = -3 \), và \( \cot a = \frac{1}{\tan a} \), ta có:

\[
\tan a = \frac{1}{\cot a} = \frac{1}{-3} = -\frac{1}{3}
\]

### 2. Tính \( \sin^2 a \)

- Dùng công thức \( \sin^2 a + \cos^2 a = 1 \) và \( \tan a = \frac{\sin a}{\cos a} \):

\[
\tan a = -\frac{1}{3}
\]

\[
\tan^2 a = \left(-\frac{1}{3}\right)^2 = \frac{1}{9}
\]

\[
\sin^2 a = \frac{\tan^2 a}{1 + \tan^2 a} = \frac{\frac{1}{9}}{1 + \frac{1}{9}} = \frac{\frac{1}{9}}{\frac{10}{9}} = \frac{1}{10}
\]

### 3. Tính \( \tan(a + \frac{\pi}{6}) \)

- Sử dụng công thức tổng của tang:

\[
\tan(a + \frac{\pi}{6}) = \frac{\tan a + \tan \frac{\pi}{6}}{1 - \tan a \cdot \tan \frac{\pi}{6}}
\]

- Biết rằng \( \tan \frac{\pi}{6} = \frac{1}{\sqrt{3}} \):

\[
\tan(a + \frac{\pi}{6}) = \frac{-\frac{1}{3} + \frac{1}{\sqrt{3}}}{1 - \left(-\frac{1}{3}\right) \cdot \frac{1}{\sqrt{3}}}
\]

\[
= \frac{-\frac{1}{3} + \frac{1}{\sqrt{3}}}{1 + \frac{1}{3\sqrt{3}}}
\]

- Để đơn giản hóa biểu thức, ta có:

\[
\tan(a + \frac{\pi}{6}) = \frac{-\frac{1}{3} + \frac{1}{\sqrt{3}}}{1 + \frac{1}{3\sqrt{3}}}
\]

### 4. Tính \( \tan 4a \)

- Dùng công thức tang bội:

\[
\tan 2a = \frac{2 \tan a}{1 - \tan^2 a}
\]

\[
\tan 2a = \frac{2 \cdot -\frac{1}{3}}{1 - \left(-\frac{1}{3}\right)^2} = \frac{-\frac{2}{3}}{1 - \frac{1}{9}} = \frac{-\frac{2}{3}}{\frac{8}{9}} = -\frac{2}{3} \cdot \frac{9}{8} = -\frac{3}{4}
\]

\[
\tan 4a = \frac{2 \tan 2a}{1 - \tan^2 2a}
\]

\[
\tan 4a = \frac{2 \cdot -\frac{3}{4}}{1 - \left(-\frac{3}{4}\right)^2} = \frac{-\frac{3}{2}}{1 - \frac{9}{16}} = \frac{-\frac{3}{2}}{\frac{7}{16}} = -\frac{3}{2} \cdot \frac{16}{7} = -\frac{24}{7}
\]

### Kết quả:

- \( \tan a = -\frac{1}{3} \)
- \( \sin^2 a = \frac{1}{10} \)
- \( \tan(a + \frac{\pi}{6}) = \frac{-\frac{1}{3} + \frac{1}{\sqrt{3}}}{1 + \frac{1}{3\sqrt{3}}} \)
- \( \tan 4a = -\frac{24}{7} \)