Đáp án đúng là: C

Gọi M(a; 0; 0) Î Ox, N(0, b, 0) Î Oy.

Ta có d(I; (Oxy)) = 2 = R nên (S) tiếp xúc với mặt phẳng (Oxy) tại điểm A(1; 4; 0) và MN cũng đi qua A.

Lại có $\overrightarrow{AM}$= (a – 1; −4; 0), $\overrightarrow{AN}$= (−1; b – 4; 0) và 3 điểm A, M, N thẳng hàng nên ta được:

$\frac{a-1}{-1}=\frac{-4}{b-4}$Û (a – 1)(b – 4) = 4      (1).

Tứ diện OIMN có IA ^ (OMN) và ∆OMN vuông tại O

Gọi J là tâm mặt cầu ngoại tiếp tứ diện OIMN thì J Î (IMN).

Suy ra bán kính mặt cầu ngoại tiếp tứ diện OIMN bằng bán kính đường tròn ngoại tiếp ∆IMN.

Ta có S_∆IMN = $\frac{\mathrm{I}M.IN.MN}{4r}$(với r = $\frac{7}{2}$ bán kính đường tròn ngoại tiếp ∆IMN).

Û $\frac{1}{2}IA.MN$= $\frac{\mathrm{I}M.IN.MN}{4.\frac{7}{2}}$

Û IM.IN = 7IA

Û IM.IN = 14

Û [(a – 1)² + 20].[(b – 4)² + 5] = 196                  (2).

Đặt $\left\{\begin{array}{c}m=a-1\\ n=b-4\end{array}\right.$.

Từ (1) và (2) ta có hệ $\left\{\begin{array}{c}mn=4\\ \left(m^2+20\right)\left(n^2+5\right)=196\end{array}\right.$ 

Û $\left\{\begin{array}{c}n=\frac{4}{m}\left(3\right)\\ \left(m^2+20\right)\left(\frac{16}{m^2}+5\right)=196\left(4\right)\end{array}\right.$

Từ (4) ta được: (m² + 20)(16 + 5m²) = 196m²

Û 5m⁴ – 80m² + 320 = 0 Û m² = 8

Û $\left[\begin{array}{c}m=2\sqrt{2}\\ m=-2\sqrt{2}\end{array}\right.$Þ $\left[\begin{array}{c}n=\sqrt{2}\\ n=-\sqrt{2}\end{array}\right.$.

Suy ra $\left[\begin{array}{c}a=1+2\sqrt{2},b=4+\sqrt{2}\\ a=1-2\sqrt{2},b=4-\sqrt{2}\end{array}\right.$.

Vậy AM.AN = $6\sqrt{2}$.