Để tính các góc của tam giác ABC, ta sử dụng phương trình đã cho:

\[
4 (\cos^2(A) + \cos^2(B) - \cos^2(C)) = 5
\]

Sử dụng công thức lượng giác cho tam giác:

\[
\cos^2(A) + \cos^2(B) + \cos^2(C) + 2\cos(A)\cos(B)\cos(C) = 1
\]

### Bước 1: Sử dụng phương trình đã cho và công thức lượng giác của tam giác

Đặt:
\[
u = \cos^2(A), v = \cos^2(B), w = \cos^2(C)
\]

Thay vào phương trình đã cho:

\[
4 (u + v - w) = 5
\]

### Bước 2: Từ công thức lượng giác của tam giác, ta có:

\[
u + v + w + 2\cos(A)\cos(B)\cos(C) = 1
\]

### Bước 3: Giải hệ phương trình

Chúng ta có hai phương trình:
1. \(4 (u + v - w) = 5\)
2. \(u + v + w + 2\cos(A)\cos(B)\cos(C) = 1\)

Giải phương trình đầu tiên:

\[
4 (u + v - w) = 5
\]
\[
u + v - w = \frac{5}{4}
\]

Thay phương trình này vào phương trình thứ hai:

\[
u + v + w + 2\cos(A)\cos(B)\cos(C) = 1
\]

Ta có thể giải hệ phương trình này để tìm các giá trị \( \cos(A), \cos(B), \cos(C) \).

Để đơn giản, ta xem xét một tam giác đặc biệt như tam giác vuông hoặc tam giác đều để kiểm tra nếu có nghiệm hợp lý.

### Kiểm tra nghiệm

Giả sử tam giác ABC là tam giác vuông cân, ta có:

\[
A = B = 45^\circ, C = 90^\circ
\]

Kiểm tra giá trị \(\cos\) của các góc này:

\[
\cos(45^\circ) = \frac{\sqrt{2}}{2}
\]

Vì vậy:

\[
\cos^2(45^\circ) = \left(\frac{\sqrt{2}}{2}\right)^2 = \frac{2}{4} = \frac{1}{2}
\]

Từ đó:

\[
\cos^2(A) = \cos^2(B) = \frac{1}{2}, \cos^2(C) = 0
\]

Thay vào phương trình ban đầu:

\[
4\left( \cos^2(45^\circ) + \cos^2(45^\circ) - \cos^2(90^\circ) \right) = 4\left(\frac{1}{2} + \frac{1}{2} - 0\right) = 4 \times 1 = 4
\]

Điều này không thỏa mãn phương trình gốc \(4 (\cos^2(A) + \cos^2(B) - \cos^2(C)) = 5\).

### Xác định nghiệm khác

Giả sử tam giác ABC là tam giác đều, ta có:

\[
A = B = C = 60^\circ
\]

Kiểm tra giá trị \(\cos\) của các góc này:

\[
\cos(60^\circ) = \frac{1}{2}
\]

Vì vậy:

\[
\cos^2(60^\circ) = \left(\frac{1}{2}\right)^2 = \frac{1}{4}
\]

Từ đó:

\[
\cos^2(A) = \cos^2(B) = \cos^2(C) = \frac{1}{4}
\]

Thay vào phương trình ban đầu:

\[
4 \left(\cos^2(A) + \cos^2(B) - \cos^2(C)\right) = 4 \left(\frac{1}{4} + \frac{1}{4} - \frac{1}{4}\right) = 4 \times \frac{1}{4} = 1
\]

Điều này cũng không thỏa mãn phương trình gốc.

### Kiểm tra giá trị khác

Sử dụng một tam giác khác với các góc thông thường không giúp ta giải quyết phương trình này. Vì vậy, chúng ta cần tìm một nghiệm khác bằng cách giải phương trình bằng phương pháp đại số hoặc số học.

### Sử dụng phương trình gốc:

Thay \(w = u + v - \frac{5}{4}\) vào phương trình lượng giác:

\[
u + v + u + v - \frac{5}{4} + 2\cos(A)\cos(B)\cos(C) = 1
\]

Giải phương trình này để tìm nghiệm \(u, v, w\) hoặc \( \cos(A), \cos(B), \cos(C) \).

Phương pháp này phức tạp và có thể yêu cầu phương pháp giải phương trình số hoặc đại số phức tạp hơn.

Trong trường hợp này, nghiệm có thể được tìm bằng cách sử dụng phần mềm giải phương trình hoặc tiếp cận theo cách khác.