Gọi $M(x, y)$ là điểm trên đường tròn $(C)$. Phương trình đường tròn $(C)$ là:

$x^2 + y^2 - 2x + 4y - 4 = 0$

$(x-1)^2 + (y+2)^2 = 9$

Tâm $I(1, -2)$, bán kính $R = 3$.

Ta có:

$P = MA^2 + MB^2 + MC^2$

$MA^2 = (x+1)^2 + (y-3)^2$

$MB^2 = (x+5)^2 + (y-2)^2$

$MC^2 = (x-1)^2 + (y+1)^2$

$P = (x+1)^2 + (y-3)^2 + (x+5)^2 + (y-2)^2 + (x-1)^2 + (y+1)^2$

$P = 3x^2 + 12x + 3y^2 - 6y + 39$

$P = 3(x^2 + 4x) + 3(y^2 - 2y) + 39$

$P = 3(x^2 + 4x + 4 - 4) + 3(y^2 - 2y + 1 - 1) + 39$

$P = 3(x+2)^2 - 12 + 3(y-1)^2 - 3 + 39$

$P = 3(x+2)^2 + 3(y-1)^2 + 24$

Ta có $x = 1 + 3\cos\theta$ và $y = -2 + 3\sin\theta$

$P = 3(3\cos\theta + 3)^2 + 3(3\sin\theta + 1)^2 + 24$

$P = 27(\cos\theta + 1)^2 + 27(\sin\theta + \frac{1}{3})^2 + 24$

$P = 27(\cos^2\theta + 2\cos\theta + 1) + 27(\sin^2\theta + \frac{2}{3}\sin\theta + \frac{1}{9}) + 24$

$P = 27(1 + 2\cos\theta) + 27(\frac{1}{9} + \frac{2}{3}\sin\theta) + 24$

$P = 27 + 54\cos\theta + 3 + 18\sin\theta + 24$

$P = 54\cos\theta + 18\sin\theta + 54$

$P = 54\cos\theta + 18\sin\theta + 54 = R\sin(\theta + \alpha) + 54$ với $R = \sqrt{54^2 + 18^2} = 18\sqrt{10}$

$-18\sqrt{10} \le R\sin(\theta+\alpha) \le 18\sqrt{10}$

$54 - 18\sqrt{10} \le P \le 54 + 18\sqrt{10}$

$P_{min} = 54 - 18\sqrt{10}$

$P_{max} = 54 + 18\sqrt{10}$