Để tìm hệ số của \(x^4\) trong khai triển \((3+2x-3x^2-3x^3)^5\), chúng ta sẽ sử dụng công thức tổ hợp Newton:

Công thức tổ hợp Newton cho một biểu thức dạng \((a+b)^n\) là:
\[C(n, k) \cdot a^{n-k} \cdot b^k\]

Trong đó:
- \(C(n, k)\) là tổ hợp chập \(n\) lấy \(k\) (ký hiệu là \(n\) choose \(k\)).
- \(a\) là hệ số của \(a\) trong biểu thức.
- \(b\) là hệ số của \(b\) trong biểu thức.
- \(n\) là số mũ của biểu thức.
- \(k\) là chỉ số của hạng tử trong biểu thức.

Ứng dụng công thức này vào biểu thức \((3+2x-3x^2-3x^3)^5\), chúng ta có:

\(a = 3\), \(b = 2x\), \(c = -3x^2\), \(d = -3x^3\), \(n = 5\).

Để có hệ số của \(x^4\), ta cần chọn 2 hạng tử trong số 4 hạng tử \(b\), \(c\), \(d\), \(e\) để tạo thành \(x^4\), và 3 hạng tử còn lại để tạo thành hạng tử \(3\), nghĩa là \(k = 2\).

\[C(5, 2) \cdot (3)^{5-2} \cdot (2x)^2 \cdot (-3x^2)^{2} \cdot (-3x^3)^{1}\]

\[= C(5, 2) \cdot 3^3 \cdot (2x)^2 \cdot (-3x^2)^2 \cdot (-3x^3)\]

\[= \frac{5!}{2!(5-2)!} \cdot 3^3 \cdot (2x)^2 \cdot (-3x^2)^2 \cdot (-3x^3)\]

\[= \frac{5!}{2!3!} \cdot 27 \cdot 4x^2 \cdot 9x^4 \cdot (-3x^3)\]

\[= 10 \cdot 27 \cdot 4 \cdot 9 \cdot (-3)x^{2+4+4+3}\]

\[= -3240x^{13}\]

Vậy hệ số của \(x^4\) trong khai triển \((3+2x-3x^2-3x^3)^5\) là -3240.