Để giải bài toán này, ta làm theo các bước sau:

Bước 1: Tìm tọa độ tâm và bán kính của đường tròn
Đường tròn được cho bởi phương trình:
x2+y2+2x−4y−8=0.x^2 + y^2 + 2x - 4y - 8 = 0.x2+y2+2x−4y−8=0.

Ta đã có thể viết lại nó theo dạng chuẩn bằng cách nhóm lại:

(x2+2x)+(y2−4y)=8.(x^2 + 2x) + (y^2 - 4y) = 8.(x2+2x)+(y2−4y)=8.

Hoàn thành bình phương:

Đối với phần xxx:
x2+2x=(x+1)2−1.x^2 + 2x = (x + 1)^2 - 1.x2+2x=(x+1)2−1.
Đối với phần yyy:
y2−4y=(y−2)2−4.y^2 - 4y = (y - 2)^2 - 4.y2−4y=(y−2)2−4.
Thay vào phương trình, ta có:
(x+1)2−1+(y−2)2−4=8,(x + 1)^2 - 1 + (y - 2)^2 - 4 = 8,(x+1)2−1+(y−2)2−4=8,
(x+1)2+(y−2)2=13.(x + 1)^2 + (y - 2)^2 = 13.(x+1)2+(y−2)2=13.

Vậy đường tròn có:

Tâm O(−1,2)O( -1, 2)O(−1,2),
Bán kính R=13R = \sqrt{13}R=13​.
Bước 2: Tìm tọa độ các điểm cắt A và B của đường thẳng và đường tròn
Đường thẳng ddd được cho bởi phương trình:
x−5y−2=0⇒y=15x−25.x - 5y - 2 = 0 \quad \Rightarrow \quad y = \frac{1}{5}x - \frac{2}{5}.x−5y−2=0⇒y=51​x−52​.

Thay vào phương trình của đường tròn để tìm tọa độ các điểm A và B:
(x+1)2+(15x−25−2)2=13.(x + 1)^2 + \left(\frac{1}{5}x - \frac{2}{5} - 2\right)^2 = 13.(x+1)2+(51​x−52​−2)2=13.

Đầu tiên, ta thay biểu thức cho yyy:
15x−25−2=15x−125.\frac{1}{5}x - \frac{2}{5} - 2 = \frac{1}{5}x - \frac{12}{5}.51​x−52​−2=51​x−512​.

Thay vào phương trình:
(x+1)2+(15x−125)2=13.(x + 1)^2 + \left(\frac{1}{5}x - \frac{12}{5}\right)^2 = 13.(x+1)2+(51​x−512​)2=13.

Giải phương trình:
(x+1)2=x2+2x+1(x + 1)^2 = x^2 + 2x + 1(x+1)2=x2+2x+1
và
(15x−125)2=125(x−12)2=125(x2−24x+144).\left(\frac{1}{5}x - \frac{12}{5}\right)^2 = \frac{1}{25}(x - 12)^2 = \frac{1}{25}(x^2 - 24x + 144).(51​x−512​)2=251​(x−12)2=251​(x2−24x+144).

Tổ hợp lại:
x2+2x+1+125(x2−24x+144)=13.x^2 + 2x + 1 + \frac{1}{25}(x^2 - 24x + 144) = 13.x2+2x+1+251​(x2−24x+144)=13.
Nhân lên với 25 để loại bỏ mẫu:
25(x2+2x+1)+(x2−24x+144)=325,25(x^2 + 2x + 1) + (x^2 - 24x + 144) = 325,25(x2+2x+1)+(x2−24x+144)=325,
25x2+50x+25+x2−24x+144=325.25x^2 + 50x + 25 + x^2 - 24x + 144 = 325.25x2+50x+25+x2−24x+144=325.
Tổng hợp các hạng tử:
26x2+26x+169=325.26x^2 + 26x + 169 = 325.26x2+26x+169=325.
Tiếp tục bằng phương trình bậc hai:
26x2+26x−156=0⇒x2+x−6=0.26x^2 + 26x - 156 = 0 \quad \Rightarrow \quad x^2 + x - 6 = 0.26x2+26x−156=0⇒x2+x−6=0.
Giải:
x1,2=−1±1+242=−1±52.x_{1,2} = \frac{-1 \pm \sqrt{1 + 24}}{2} = \frac{-1 \pm 5}{2}.x1,2​=2−1±1+24​​=2−1±5​.
Ta có:
x1=2,x2=−3.x_1 = 2, \quad x_2 = -3.x1​=2,x2​=−3.

Lựa chọn hoành độ dương, ta có là A(2)A(2)A(2).

Bước 3: Tìm tọa độ điểm B
Tính giá trị yyy khi x=2x = 2x=2:
y=15(2)−25=0.y = \frac{1}{5}(2) - \frac{2}{5} = 0.y=51​(2)−52​=0.
Vậy điểm A=(2,0)A = (2, 0)A=(2,0). Để tính điểm B, thay hoành độ x=−3x = -3x=−3:
y=15(−3)−25=−1.y = \frac{1}{5}(-3) - \frac{2}{5} = -1.y=51​(−3)−52​=−1.
Vậy B=(−3,−1)B = (-3, -1)B=(−3,−1).

Bước 4: Tìm điểm C sao cho tam giác ABC vuông tại B
Tam giác ABC vuông tại B tức là AB⋅BC=0AB \cdot BC = 0AB⋅BC=0.
Ta cần tìm C(xC,yC)C(x_C, y_C)C(xC​,yC​) thuộc đường tròn:
(x+1)2+(y−2)2=13.(x + 1)^2 + (y - 2)^2 = 13.(x+1)2+(y−2)2=13.

Tính vector AB:
AB=(2−(−3),0−(−1))=(5,1).AB = (2 - (-3), 0 - (-1)) = (5, 1).AB=(2−(−3),0−(−1))=(5,1).

Tìm vectơ BC vuông góc với AB, nghĩa là tích vô hướng bằng không:
(xC+3)5+(yC+1)1=0.(x_C + 3)5 + (y_C + 1)1 = 0.(xC​+3)5+(yC​+1)1=0.
Hay:
5xC+yC+15+1=0  ⟹  5xC+yC=−16.5x_C + y_C + 15 + 1 = 0 \implies 5x_C + y_C = -16.5xC​+yC​+15+1=0⟹5xC​+yC​=−16.

Bước 5: Tìm phương trình của đường tròn
Ta thay yC=−5xC−16y_C = -5x_C - 16yC​=−5xC​−16 vào phương trình đường tròn:
(xC+1)2+(−5xC−16−2)2=13.(x_C + 1)^2 + (-5x_C - 16 - 2)^2 = 13.(xC​+1)2+(−5xC​−16−2)2=13.

Gọi yC=−5xC−18y_C = -5x_C - 18yC​=−5xC​−18:
(xC+1)2+(−5xC−18)2=13,(x_C + 1)^2 + (-5x_C - 18)^2 = 13,(xC​+1)2+(−5xC​−18)2=13,
xC2+2xC+1+25xC2+180xC+324=13,26xC2+182xC+312=0x_C^2 + 2x_C + 1 + 25x_C^2 + 180x_C + 324 = 13, \sqrt{26x_C^2 +182x_C +312} = 0 \quadxC2​+2xC​+1+25xC2​+180xC​+324=13,26xC2​+182xC​+312​=0

Giải lên bước cuối.

Để tìm tọa độ điểm C, bạn cần đại số và toán học một chút, nhưng với các phép biến đổi này, bạn sẽ tìm được điểm C.