Ta cần tìm các số nguyên dương x,y∈Z+x, y \in \mathbb{Z}^+x,y∈Z+ sao cho:

6x2+3y2−4xy+5x−y+1=06x^2 + 3y^2 - 4xy + 5x - y + 1 = 06x2+3y2−4xy+5x−y+1=0
Bước 1: Phân tích sơ bộ
Ta quan sát biểu thức:

f(x,y)=6x2−4xy+3y2+5x−y+1f(x, y) = 6x^2 - 4xy + 3y^2 + 5x - y + 1f(x,y)=6x2−4xy+3y2+5x−y+1Biểu thức này là một đa thức bậc hai theo cả xxx và yyy. Ta có thể tìm giá trị nhỏ của x,yx, yx,y rồi kiểm tra thủ công trước khi nghĩ đến cách tổng quát.

Bước 2: Thử các giá trị nhỏ của x,yx, yx,y
Thử x=1x = 1x=1:
Với y=1y = 1y=1:
6(1)2+3(1)2−4(1)(1)+5(1)−1+1=6+3−4+5−1+1=10≠06(1)^2 + 3(1)^2 - 4(1)(1) + 5(1) - 1 + 1 = 6 + 3 - 4 + 5 - 1 + 1 = 10 \neq 06(1)2+3(1)2−4(1)(1)+5(1)−1+1=6+3−4+5−1+1=10=0Với y=2y = 2y=2:
6+12−8+5−2+1=14≠06 + 12 - 8 + 5 - 2 + 1 = 14 \neq 06+12−8+5−2+1=14=0Với y=3y = 3y=3:
6+27−12+5−3+1=24≠06 + 27 - 12 + 5 - 3 + 1 = 24 \neq 06+27−12+5−3+1=24=0Với y=4y = 4y=4:
6+48−16+5−4+1=40≠06 + 48 - 16 + 5 - 4 + 1 = 40 \neq 06+48−16+5−4+1=40=0→ Không có giá trị nào thỏa với x=1x = 1x=1

Thử x=2x = 2x=2:
Với y=1y = 1y=1:
6(4)+3(1)−4(2)(1)+5(2)−1+1=24+3−8+10−1+1=29≠06(4) + 3(1) - 4(2)(1) + 5(2) - 1 + 1 = 24 + 3 - 8 + 10 - 1 + 1 = 29 \neq 06(4)+3(1)−4(2)(1)+5(2)−1+1=24+3−8+10−1+1=29=0Với y=2y = 2y=2:
6(4)+3(4)−4(4)+10−2+1=24+12−16+10−2+1=29≠06(4) + 3(4) - 4(4) + 10 - 2 + 1 = 24 + 12 - 16 + 10 - 2 + 1 = 29 \neq 06(4)+3(4)−4(4)+10−2+1=24+12−16+10−2+1=29=0Với y=3y = 3y=3:
6(4)+3(9)−4(6)+10−3+1=24+27−24+10−3+1=35≠06(4) + 3(9) - 4(6) + 10 - 3 + 1 = 24 + 27 - 24 + 10 - 3 + 1 = 35 \neq 06(4)+3(9)−4(6)+10−3+1=24+27−24+10−3+1=35=0→ Không có nghiệm

Thử x=3x = 3x=3:
Với y=1y = 1y=1:
6(9)+3(1)−4(3)(1)+15−1+1=54+3−12+15−1+1=60≠06(9) + 3(1) - 4(3)(1) + 15 - 1 + 1 = 54 + 3 - 12 + 15 - 1 + 1 = 60 \neq 06(9)+3(1)−4(3)(1)+15−1+1=54+3−12+15−1+1=60=0Với y=2y = 2y=2:
54+12−24+15−2+1=56≠054 + 12 - 24 + 15 - 2 + 1 = 56 \neq 054+12−24+15−2+1=56=0Với y=3y = 3y=3:
54+27−36+15−3+1=58≠054 + 27 - 36 + 15 - 3 + 1 = 58 \neq 054+27−36+15−3+1=58=0→ Không có nghiệm

Thử x=4x = 4x=4, y=5y = 5y=5,...
Các giá trị tiếp tục tăng lên ⇒ biểu thức tăng rất nhanh. Vì các hệ số đều dương hoặc không âm (trừ vài hệ số nhỏ), nên với x,yx, yx,y càng lớn thì giá trị vế trái càng lớn ⇒ không thể bằng 0.

Bước 3: Kết luận
Sau khi thử nhiều giá trị nhỏ và nhận thấy biểu thức luôn dương, ta thấy rằng không tồn tại cặp số nguyên dương x,yx, yx,y sao cho:

6x2+3y2−4xy+5x−y+1=06x^2 + 3y^2 - 4xy + 5x - y + 1 = 06x2+3y2−4xy+5x−y+1=0