Để tính biểu thức

\[
\frac{\sin^2 a + 2 \sin a \cos a - 2 \cos^2 a}{2 \sin^2 a - 3 \sin a \cos a + 4 \cos^2 a}
\]

khi \( \cot a = -3 \), trước tiên ta cần xác định giá trị của \(\sin a\) và \(\cos a\).

\(\cot a = -3\) có nghĩa là

\[
\frac{\cos a}{\sin a} = -3 \implies \cos a = -3 \sin a.
\]

Ta có thể sử dụng định nghĩa \(\sin^2 a + \cos^2 a = 1\) để tìm các giá trị của \(\sin a\) và \(\cos a\):

1. Thay thế \(\cos a\):

\[
\sin^2 a + (-3 \sin a)^2 = 1 \implies \sin^2 a + 9 \sin^2 a = 1 \implies 10 \sin^2 a = 1 \implies \sin^2 a = \frac{1}{10}.
\]

2. Tính giá trị \(\sin a\) và \(\cos a\):

\[
\sin a = \frac{1}{\sqrt{10}}, \quad \cos a = -3 \sin a = -3 \cdot \frac{1}{\sqrt{10}} = -\frac{3}{\sqrt{10}}.
\]

### Tính toán biểu thức

Bây giờ ta thay các giá trị \(\sin a\) và \(\cos a\) vào biểu thức:

- Tính \(\sin^2 a\):

\[
\sin^2 a = \frac{1}{10}.
\]

- Tính \(\cos^2 a\):

\[
\cos^2 a = \left(-\frac{3}{\sqrt{10}}\right)^2 = \frac{9}{10}.
\]

Giờ thay vào biểu thức:

1. Tử số:

\[
\sin^2 a + 2 \sin a \cos a - 2 \cos^2 a = \frac{1}{10} + 2 \cdot \frac{1}{\sqrt{10}} \cdot (-\frac{3}{\sqrt{10}}) - 2 \cdot \frac{9}{10}.
\]

Tính từng phần:

- \(2 \sin a \cos a = 2 \cdot \frac{1}{\sqrt{10}} \cdot (-\frac{3}{\sqrt{10}}) = -\frac{6}{10} = -\frac{3}{5}.\)

Giờ ta tiếp tục:

\[
\frac{1}{10} - \frac{6}{10} - \frac{18}{10} = \frac{1 - 6 - 18}{10} = \frac{-23}{10}.
\]

2. Mẫu số:

\[
2 \sin^2 a - 3 \sin a \cos a + 4 \cos^2 a = 2 \cdot \frac{1}{10} - 3 \cdot \frac{1}{\sqrt{10}} \cdot (-\frac{3}{\sqrt{10}}) + 4 \cdot \frac{9}{10}.
\]

Tính từng phần:

- \(3 \sin a \cos a = 3 \cdot \frac{1}{\sqrt{10}} \cdot (-\frac{3}{\sqrt{10}}) = -\frac{9}{10}.\)

Vì vậy,

\[
2 \sin^2 a + \frac{9}{10} + \frac{36}{10} = \frac{2}{10} + \frac{9}{10} + \frac{36}{10} = \frac{47}{10}.
\]

### Kết quả

Cuối cùng, biểu thức trở thành:

\[
\frac{-\frac{23}{10}}{\frac{47}{10}} = \frac{-23}{47}.
\]

Vậy giá trị của biểu thức là

\[
\boxed{\frac{-23}{47}}.
\]

Để tính giá trị của biểu thức \( \frac{\sin^2a + 2 \sin a \cos a - 2 \cos^2a}{2 \sin^2a - 3 \sin a \cos a + 4 \cos^2a} \) khi \( \cot a = -3 \), chúng ta sẽ sử dụng các công thức quen thuộc và giải phương trình để tìm \( \sin a \) và \( \cos a \).

Đầu tiên, từ \( \cot a = -3 \), ta biết:
\[ \cot a = \frac{\cos a}{\sin a} = -3 \]
Từ đó suy ra:
\[ \cos a = -3 \sin a \]

Bây giờ, ta sẽ sử dụng \( \sin^2 a + \cos^2 a = 1 \) để giải phương trình này:
\[ (-3 \sin a)^2 + \sin^2 a = 1 \]
\[ 9 \sin^2 a + \sin^2 a = 1 \]
\[ 10 \sin^2 a = 1 \]
\[ \sin^2 a = \frac{1}{10} \]
\[ \sin a = \pm \sqrt{\frac{1}{10}} = \pm \frac{1}{\sqrt{10}} \]

Vì \( \cot a = -3 \) và \( \cos a = -3 \sin a \), với \( \sin a = \frac{1}{\sqrt{10}} \) thì \( \cos a = -3 \cdot \frac{1}{\sqrt{10}} = -\frac{3}{\sqrt{10}} \).

Giờ ta sẽ tính giá trị của biểu thức ban đầu:
\[ \sin^2 a = \frac{1}{10}, \quad \cos^2 a = \left( -\frac{3}{\sqrt{10}} \right)^2 = \frac{9}{10}, \quad \sin a \cos a = \frac{1}{\sqrt{10}} \cdot \left( -\frac{3}{\sqrt{10}} \right) = -\frac{3}{10} \]

Thay vào biểu thức:
\[ \frac{\frac{1}{10} + 2 \cdot \left( -\frac{3}{10} \right) - 2 \cdot \frac{9}{10}}{2 \cdot \frac{1}{10} - 3 \cdot \left( -\frac{3}{10} \right) + 4 \cdot \frac{9}{10}} \]

Tính từng phần tử:
\[ \frac{\frac{1}{10} - \frac{6}{10} - \frac{18}{10}}{\frac{2}{10} + \frac{9}{10} + \frac{36}{10}} \]
\[ \frac{\frac{-23}{10}}{\frac{47}{10}} \]
\[ \frac{-23}{47} \]

Vậy, giá trị của biểu thức là \( \boxed{-\frac{23}{47}} \).