Để tính giá trị của biểu thức \( M = 3\sin^2 x - 5\cos^2 x + 4 \) khi \(\cot x = 3\), chúng ta sẽ làm theo các bước sau:

1. **Sử dụng định nghĩa của \(\cot x\)**:
\[
\cot x = \frac{\cos x}{\sin x} = 3
\]
Từ đó, ta có thể suy ra:
\[
\cos x = 3 \sin x
\]

2. **Sử dụng hệ thức lượng trong tam giác**:
\[
\sin^2 x + \cos^2 x = 1
\]
Thay \(\cos x = 3 \sin x\) vào, ta được:
\[
\sin^2 x + (3 \sin x)^2 = 1
\]
\[
\sin^2 x + 9 \sin^2 x = 1
\]
\[
10 \sin^2 x = 1
\]
\[
\sin^2 x = \frac{1}{10}
\]

3. **Tìm \(\cos^2 x\)**:
\[
\cos^2 x = 9 \sin^2 x = 9 \times \frac{1}{10} = \frac{9}{10}
\]

4. **Thay các giá trị \(\sin^2 x\) và \(\cos^2 x\) vào biểu thức M**:
\[
M = 3 \sin^2 x - 5 \cos^2 x + 4
\]
\[
M = 3 \times \frac{1}{10} - 5 \times \frac{9}{10} + 4
\]
\[
M = \frac{3}{10} - \frac{45}{10} + 4
\]
\[
M = \frac{3 - 45}{10} + 4
\]
\[
M = \frac{-42}{10} + 4
\]
\[
M = -4.2 + 4
\]
\[
M = -0.2
\]
\[
M = -\frac{1}{5}
\]

Vậy giá trị của biểu thức \( M \) là \( -\frac{1}{5} \).