a) Để tìm phép vị tự biến ∆ABC thành ∆A’B’C’, ta tìm phép vị tự biến điểm A thành điểm A’, biến điểm B thành điểm B’, biến điểm C thành điểm C’.

∆ABC có A’ là trung điểm BC và G là trọng tâm.

Theo tính chất trọng tâm của tam giác, ta có $\overrightarrow{AG}=2\overrightarrow{G{A}^{\text{'}}}$ hay $\overrightarrow{G{A}^{\text{'}}}=-\frac{1}{2}\overrightarrow{GA}$.

Suy ra A’ là ảnh của A qua $V_{\left(G,-\frac{1}{2}\right)}$.

Chứng minh tương tự, ta được $V_{\left(G,-\frac{1}{2}\right)}\left(B\right)=B^{\text{'}}$ và $V_{\left(G,-\frac{1}{2}\right)}\left(C\right)=C^{\text{'}}$.

Vậy $V_{\left(G,-\frac{1}{2}\right)}$ biến ∆ABC thành ∆A’B’C’.

b) Gọi AD là đường kính của đường tròn tâm O ngoại tiếp ∆ABC.

Suy ra $\widehat{ABD}=90°$ và O là trung điểm của AD.

Do đó AB ⊥ BD.

Mà CH ⊥ AB (do H là trực tâm của ∆ABC).

Vì vậy BD // CH.

Chứng minh tương tự, ta được BH // CD.

Suy ra tứ giác BHCD là hình bình hành.

Mà A’ là trung điểm BC (giả thiết).

Do đó A’ cũng là trung điểm của DH.

∆ADH có A’O là đường trung bình của tam giác nên $A^{\text{'}}O=\frac{1}{2}HA$ và A’O // HA.

Suy ra $\overrightarrow{A^{\text{'}}O}=\frac{1}{2}\overrightarrow{HA}=-\frac{1}{2}\overrightarrow{AH}$.

Ta có $\overrightarrow{GO}=\overrightarrow{G{A}^{\text{'}}}+\overrightarrow{A^{\text{'}}O}=-\frac{1}{2}\overrightarrow{GA}-\frac{1}{2}\overrightarrow{AH}$

$=-\frac{1}{2}\left(\overrightarrow{GA}+\overrightarrow{AH}\right)=-\frac{1}{2}\overrightarrow{GH}$.

Khi đó $\overrightarrow{GO}$ và $\overrightarrow{GH}$ cùng phương nên ba điểm G, H, O thẳng hàng.

Vậy ba điểm G, H, O thẳng hàng.