Bu çözüm doğru sonuç veriyor
(10 doğru cevap değil, 10 sadece $ab$ çarpımı için bir üst sınır. A.O.$\geq$ G.O. eşitsizliğinde eşitliğe ancak tüm sayılar eşit iken ulaşılır. Burada, $a^2,3ab,5b^2$ sayılarının eşit olması mümkün değil)
Önceki çözümde bir aritmetik hata vardı onu düzeltiyorum:
$a^2=5b^2$ eşitliği $ab$ yi maksimum (veya minimum) noktasında sağlanmak zorunda.
Bunlar $a^3+3ab+5b^2=80$ eşitliğinde yerine konduğunda $a^2=\frac{80}{2+\frac3{\sqrt5}}$ bulunuyor.
(Maksimum ve minimum noktalarında) $ab=\pm\frac{a^2}{\sqrt5}$ oluyor.
Elbette $\frac{a^2}{\sqrt5}$ maksimum değer olacaktır. O da, $\frac{80}{2\sqrt5+3}\approx9,1$ olduğundan $ab$ nin en büyük tamsayı değer 9 olur.