Farklı bir yaklaşımla çözmeye çalışacağım.
$a,b,c$ ile bir dikdörtgenler prizmasının boyutlarını anlarsak, hayal etmesi belki kolay olur. Aşağıda da "hacim" lâfı geçecektir. Bu mânâda anlaşılmasını ricâ ederim.
Genel olarak, $a+b+c=10$ verildiğinde başka bir şart olmasaydı, $a=b=c=10/3$ durumu en büyük hacme karşılık gelecekti. Bunun değeri, $$\left(\frac{10}{3}\right)^3\approx 111,\overline{1}$$ olurdu. Tabi ki bu tamsayı değil! Burada şöyle bir yaklaşım yapalım. Prizmanın bir boyutunu sâbit tutalım ve diğer ikisini değiştirelim, öyle ki $$\left(\frac{10}{3}\right)\left(\frac{10}{3}-k\right)\left(\frac{10}{3}+k\right)=111$$ olsun. $111$'i neden seçtiğimiz açık olmalı. Bu maksimum hacime en yakın tamsayı değeridir. Peki bakalım böyle bir $k$ reel sayısı var mı? $$\left(\frac{10}{3}\right)^2-k^2=\frac{333}{10}\Rightarrow k^2=\left(\frac{10}{3}\right)^2-\frac{333}{10}<0$$
Olmadı! Böyle bir reel sayı yoktur. Demek ki $111$ çok geldi. O zaman bu sayıya şimdilik $abc=N$ diyelim. Bu durumda $$k^2=\left(\frac{10}{3}\right)^2-\frac{3N}{10}>0\Rightarrow N<37,\overline{037}$$ olması gerektiği çıkar. Nerede $111$, nerede $37!?$ $N=\mbox{max}\{abc\}=37$ olması gerektiği çıkar!
Bir de buna karşı gelen $k$'yı da bulalım: $$k^2=\left(\frac{10}{3}\right)^2-\frac{3\times 37}{10}=0,0\overline{1}\Rightarrow k\approx 0,1.$$ Buna göre kenarlar yaklaış olarak $$a=3,\overline{3}\\ b=3,2\\c=3,4$$ bulunur.