Ta cần chứng minh:

ab(a−2)(b+6)+13a²+4b²−26a+24b+16≥0

với mọi a,b∈R.

Đặt

P=ab(a−2)(b+6)+13a²+4b²−26a+24b+16

Ta biến đổi:

ab(a−2)(b+6)=ab(ab+6a−2b−12)

nên

P=a²b²+6a²b−2ab²−12ab+13a²+4b²−26a+24b+16

Nhóm hạng tử theo a:

P=a²(b²+6b+13)−2a(b²+6b+13)+4b²+24b+16

vì

−2a(b²+6b+13)=−2ab²−12ab−26a

Do đó

P=(b²+6b+13)(a²−2a)+4b²+24b+16

Mà

a²−2a=(a−1)²−1

nên

P=(b²+6b+13)(a−1)²−(b²+6b+13)+4b²+24b+16

Suy ra

P=(b²+6b+13)(a−1)²+3b²+18b+3

P=(b²+6b+13)(a−1)²+3(b²+6b+1)

Tiếp tục:

b²+6b+13=(b+3)²+4>0

và

3(b²+6b+1)=3((b+3)²−8)

Ta thử hoàn chỉnh tiếp theo hướng khác:

Từ

4b²+24b+16=4(b+3)²−20

nên

P=(b²+6b+13)(a−1)²+4(b+3)²−(b2+6b+13)−20

 =(b²+6b+13)(a−1)²+4(b+3)²−(b+3)²−24

=(b²+6b+13)(a−1)²+3(b+3)²−24

Ta cần kiểm tra lại phép biến đổi ban đầu. Thay vì tiếp tục, ta phân tích trực tiếp chính xác hơn:

4b²+24b+16−(b²+6b+13)=3b²+18b+3

=3(b²+6b+1)

=3((b+3)²−8)

Do đó:

P=(b²+6b+13)(a−1)²+3(b+3)²−24

Biểu thức này chưa hiển nhiên không âm, nên ta tiếp tục phân tích khác.

Quay lại từ đầu, nhóm theo b:

P=b²(a²−2a+4)+b(6a²−12a+24)+13a²−26a+16

=a²−2a+4=(a−1)²+3>0

Xét như tam thức theo b. Biệt thức:

Δ=[6a²−12a+24]²−4(a²−2a+4)(13a²−26a+16)

Đặt t=a²−2a=(a−1)²−1. Khi đó:

Δ=(6t+24)²−4(t+4)(13t+16)

=36(t+4)²−4(13t2+68t+64)

=36t²+288t+576−52t²−272t−256

=−16t²+16t+320

=16(−t²+t+20)

Mà t=a²−2at, nên

−t²+t+20=−(t−5)(t+4)

Do t=(a−1)²−1≥−1, nên t+4>0. Nhưng Δ\DeltaΔ có thể dương, nên cách này không tiện.

Ta thử tách thành tổng bình phương:

P=(ab+3a−b−4)²+3(a−1)²+3(b+2)²

Khai triển vế phải:

(ab+3a−b−4)²=a²b²+6a²b−2ab²−14ab+9a²+b²−24a+8b+16

Cộng thêm

3(a−1)²=3a²−6a+3

và

3(b+2)²=3b²+12b+12

Tổng là

a²b²+6a²b−2ab²−14ab+12a²+4b²−30a+20b+31

chưa đúng.

Ta sửa thử:

P=(ab+3a−b−6)²+4(a−1)²+3b²

Khai triển:

(ab+3a−b−6)²=a²b²+6a²b−2ab²−18ab+9a²+b²−36a+12b+36

Cộng thêm:

4(a−1)²=4a2−8a+4

và 3b², được:

a²b²+6a²b−2ab²−18ab+13a²+4b²−44a+12b+40

vẫn sai.

Ta thử trực tiếp bằng CAS suy luận dạng đẹp:

P=(a−1)²(b+3)²+4(a−2)²+3b²

Khai triển:

(a²−2a+1)(b²+6b+9)

=a²b²+6a²b+9a²−2ab²−12ab−18a+b²+6b+9

Cộng thêm

4(a−2)²=4a²−16a+16

và 3b², ta được

a²b²+6a²b−2ab²−12ab+13a²+4b²−34a+6b+25

gần đúng nhưng chưa khớp.

Ta điều chỉnh:

P=(a−1)²(b+3)²+4(a−1)²+3(b+3)²

Khai triển:

(a−1)²[(b+3)²+4]+3(b+3)²

 =(a²−2a+1)(b²+6b+13)+3b²+18b+27

=a²b²+6a²b+13a²−2ab²−12ab−26a+b²+6b+13+3b2+18b+27

=a²b²+6a²b−2ab²−12ab+13a²+4b²−26a+24b+40

=a²b²+6a²b−2ab²−12ab+13a²+4b²−26a+24b+40

Vậy

P=(a−1)²(b2+6b+13)+3(b+3)²−24

Nhận thấy đề bài có thể bị sai hằng số. Nếu hằng số cuối là 40 thì đúng hiển nhiên.

Với đề đã cho, thử a=1,b=−3:

P=1⋅(−3)(−1)⋅3+13+36−26−72+16 =9+13+36−26−72+16=−24<0

Vậy bất đẳng thức đã cho không đúng với mọi số thực.

Phản ví dụ:

a=1,b=−3

thì

ab(a−2)(b+6)+13a²+4b²−26a+24b+16=−24<0

Do đó mệnh đề đã cho là sai.

Để chứng minh bất đẳng thức này, chúng ta sẽ biến đổi biểu thức về dạng tổng các bình phương hoặc tích các đại lượng không âm.
Đặt biểu thức là \(P\):
\(P=ab(a-2)(b+6)+13a^{2}+4b^{2}-26a+24b+16\)
Bước 1: Nhóm các hạng tử liên quan đến \(a\) và \(b\).
Ta nhận thấy các cụm \(a(a-2)\) và \(b(b+6)\) xuất hiện trong tích đầu tiên. Hãy nhóm các hạng tử còn lại theo các cụm này:
\(13a^2 - 26a = 13(a^2 - 2a) = 13a(a-2)\)
\(4b^2 + 24b = 4(b^2 + 6b) = 4b(b+6)\)

Khi đó, biểu thức \(P\) trở thành:
\(P=[a(a-2)]\cdot [b(b+6)]+13[a(a-2)]+4[b(b+6)]+16\)
Bước 2: Đặt ẩn phụ.
Đặt \(x = a(a-2)\) và \(y = b(b+6)\).
Biểu thức trở thành:
\(P=xy+13x+4y+16\)
Bước 3: Phân tích thành nhân tử và đánh giá.
Ta có thể viết lại \(P\) dưới dạng:
\(P=(x+4)(y+13)-36\)
Bây giờ, ta tìm giá trị nhỏ nhất của \(x\) và \(y\):
\(x = a^2 - 2a = (a-1)^2 - 1 \ge -1\) với mọi \(a\). Suy ra \(x + 4 \ge 3\).
\(y = b^2 + 6b = (b+3)^2 - 9 \ge -9\) với mọi \(b\). Suy ra \(y + 13 \ge 4\).

Nhân hai bất đẳng thức trên (vì cả hai vế đều dương):
\((x+4)(y+13)\ge 3\cdot 4=12\)
Vậy \(P = (x + 4)(y + 13) - 36 \ge 12 - 36 = -24\).
Lưu ý: Dựa trên kết quả tính toán, giá trị nhỏ nhất của biểu thức là \(-24\) (đạt được khi \(a=1\) và \(b=-3\)), không phải luôn \(\ge 0\).
Có khả năng đề bài bạn đưa ra bị nhầm lẫn ở con số cuối cùng. Nếu hằng số tự do là 40 thay vì 16, ta sẽ có:
\(P^{\prime }=(x+4)(y+13)-52+40=(x+4)(y+13)-12\)Khi đó \(P' \ge 12 - 12 = 0\) (luôn đúng).