Yaptığınız her iki ortak paranteze alma işlemi de yanlış olmuş. Eğer sadece iki terimi $(a-b)$ parantezine alacaksanız o zaman sonuç: $(a-b)[(a-b)(c-a)+(a-c)^2]$ şeklinde olmalıdır. Ama dikkat ederseniz her iki terimde ortak olan sadece $(a-b)$ değil $(c-a)$ de ortak. Daha doğrusu/istenen/beklenen, her iki terimde de ortak olan ifadelerin ortak parantezine almaktır.
$(a-b)(c-a)[(a-b)+(c-a)]=...$ ilerletirseniz isteneni bulmuş olacaksınız.