Gọi $p_X$ và $n_X$ lần lượt là số proton và số neutron trong hạt nhân nguyên tử X.

Gọi $p_Y$ và $n_Y$ lần lượt là số proton và số neutron trong hạt nhân nguyên tử Y.

Theo đề bài, ta có:

Tổng số proton trong phân tử M là 76: $2p_X + 3p_Y = 76$ (1)

Trong hạt nhân nguyên tử X có số neutron hơn số proton 4 hạt: $n_X = p_X + 4$ (2)

Trong hạt nhân nguyên tử Y có số neutron bằng số proton: $n_Y = p_Y$ (3)

Nguyên tử khối của X hơn nguyên tử khối của Y 40 đvC: $(p_X + n_X) - (p_Y + n_Y) = 40$ (4)

Thay (2) và (3) vào (4), ta được:

$(p_X + p_X + 4) - (p_Y + p_Y) = 40$

$2p_X - 2p_Y = 36$ (5)

Giải hệ phương trình (1) và (5), ta được:

$p_X = 26$

$p_Y = 8$

Thay $p_X = 26$ vào (2), ta được:

$n_X = 30$

Thay $p_Y = 8$ vào (3), ta được:

$n_Y = 8$

Kết luận:

Nguyên tử X có 26 proton và 30 neutron, nên X là Fe (Sắt).

Nguyên tử Y có 8 proton và 8 neutron, nên Y là O (Oxi).

Vậy công thức hóa học của hợp chất M là Fe2O3 (Sắt(III) oxit).