Đặt \(AD = x\) là độ dài đáy lớn của hình thang và \(AB = \frac{2}{5}x\) là độ dài đáy nhỏ.

Vì \(ABCD\) là hình thang vuông nên ta có:
\[ \angle BAD = \angle BCD = 90^\circ \]

Khi đó, ta có \(AC = BD = \sqrt{x^2 + (\frac{3}{5}x)^2} = \sqrt{\frac{34}{25}x^2} = \frac{\sqrt{34}}{5}x\).

Gọi \(H\) là hình chiếu vuông góc của \(A\) lên \(CD\), ta có \(AH = AC - HC = \frac{\sqrt{34}}{5}x - \frac{3}{5}x = \frac{\sqrt{34}-3}{5}x\).

Ta biết rằng \(MH = \frac{1}{3}AH\), vậy \(MH = \frac{1}{3} \times \frac{\sqrt{34}-3}{5}x = \frac{\sqrt{34}-3}{15}x\).

Tiếp theo, ta cần tính \(NH\). Vì tam giác \(MHN\) và \(AMC\) đồng dạng, ta có:
\[ \frac{NH}{MH} = \frac{AC}{AM} \]
\[ \frac{NH}{\frac{\sqrt{34}-3}{15}x} = \frac{\frac{\sqrt{34}}{5}x}{x} \]
\[ NH = \frac{\sqrt{34}}{3} - 3 \]

Do đó, \(ND = NH + HC = \frac{\sqrt{34}}{3} - 3 + \frac{3}{5}x\).

Vậy tỉ số AN và ND là:
\[ \frac{AN}{ND} = \frac{AM - MN}{NH + HC} \]
\[ \frac{AN}{ND} = \frac{\frac{\sqrt{34}}{5}x - \frac{\sqrt{34}-3}{15}x}{\frac{\sqrt{34}}{3} - 3 + \frac{3}{5}x} \]
\[ \frac{AN}{ND} = \frac{\frac{2\sqrt{34}-\sqrt{34}+3}{15}x}{\frac{\sqrt{34}}{3} - \frac{9}{5} + \frac{3}{5}x} \]
\[ \frac{AN}{ND} = \frac{\frac{\sqrt{34}+3}{15}x}{\frac{\sqrt{34}}{3} - \frac{6}{5} + \frac{3}{5}x} \]
\[ \frac{AN}{ND} = \frac{(\sqrt{34}+3)x}{5(\sqrt{34} - 2 + 3x)} \]

Vậy tỉ số AN và ND là \(\frac{(\sqrt{34}+3)x}{5(\sqrt{34} - 2 + 3x)}\).