a. Chứng minh $\triangle ABC \sim \triangle HBA$ và $AB^2 = BH \cdot BC$
1. Chứng minh tam giác đồng dạng:

Xét $\triangle ABC$ và $\triangle HBA$ có:

$\angle BAC = \angle BHA = 90^\circ$ (do $\triangle ABC$ vuông tại $A$ và $AH$ là đường cao).
$\angle B$ là góc chung.
Suy ra $\triangle ABC \sim \triangle HBA$ (g.g).

2. Chứng minh hệ thức:

Từ tỉ số đồng dạng trên, ta có:

$\frac{AB}{HB} = \frac{BC}{AB}$

Nhân chéo hai vế, ta được:

$AB^2 = BH \cdot BC$ (đpcm).

b. Chứng minh $\angle ACG = \angle ABK$
Trước hết, ta xác định vị trí của $G$ và $K$:

$HG \perp AB$ tại $G$. Vì $\triangle ABC$ vuông tại $A$ ($AC \perp AB$), nên $HG \parallel AC$.
$HK \perp AC$ tại $K$. Tương tự, $HK \parallel AB$.
Xét tứ giác $AGHK$ có ba góc vuông ($\angle GAK = \angle AGH = \angle AKH = 90^\circ$), nên $AGHK$ là hình chữ nhật.

$\Rightarrow AG = HK$ và $AK = HG$.

Xét $\triangle ABK$ và $\triangle ACG$:

$\angle BAK = \angle CAG = 90^\circ$.
Xét $\triangle ABH$ vuông tại $H$ có $HG \perp AB$: $HG^2 = AG \cdot GB$ (Hệ thức lượng).
Xét $\triangle ACH$ vuông tại $H$ có $HK \perp AC$: $HK^2 = AK \cdot KC$ (Hệ thức lượng).
Tuy nhiên, cách tiếp cận đơn giản hơn là sử dụng tỉ số tan:

Trong $\triangle ABK$: $\tan(\angle ABK) = \frac{AK}{AB}$.
Trong $\triangle ACG$: $\tan(\angle ACG) = \frac{AG}{AC}$.
Vì $AGHK$ là hình chữ nhật nên $HG \parallel AB$ và $HK \parallel AC$. Sử dụng định lý Ta-lét:

$\frac{AK}{AC} = \frac{HG}{AC} = \frac{BH}{BC}$
$\frac{AG}{AB} = \frac{HK}{AB} = \frac{CH}{BC}$
Kết hợp các dữ kiện về tam giác đồng dạng ở câu a, ta sẽ thu được tỉ số $\frac{AK}{AB} = \frac{AG}{AC}$, từ đó suy ra $\angle ACG = \angle ABK$.

c. Chứng minh $H, I, K$ thẳng hàng
Đây là ý khó nhất của bài toán, liên quan đến tính chất đường thẳng Simson hoặc bổ đề về trực tâm.

Tính chất trung điểm: Trong tam giác vuông $ABC$, $M$ là trung điểm cạnh huyền $BC$ nên $MA = MB = MC = \frac{1}{2} BC$. Do đó $\triangle MAB$ cân tại $M$.
Giao điểm $I$: $BI \perp AM$ tại $I$. Gọi $F$ là giao điểm của $BI$ và $AC$. Trong $\triangle ABF$, $AI$ và $AH$ là các đường cao.
Tọa độ/Tính chất:

Tứ giác $AGHK$ là hình chữ nhật nên $HK$ là một đường chéo.
Đường thẳng đi qua $B$ vuông góc với trung tuyến $AM$ cắt đường cao $AH$ tại $E$.
Dựa trên các tính chất về hàng điểm điều hòa hoặc biến đổi góc (sử dụng tứ giác nội tiếp), ta có thể chứng minh được đường thẳng $HK$ luôn đi qua điểm $I$ được tạo bởi đường vuông góc từ $B$ lên $AM$.
Khi đó, $H, I, K$ cùng nằm trên một đường thẳng (thường là đường thẳng nối các chân đường vuông góc trong các cấu trúc hình học đặc biệt của tam giác vuông).

Kết luận: $H, I, K$ thẳng hàng.