Найдите общий множитель и выделите полный квадрат суммы:
\(\displaystyle -150my^{\, 3}ab-240y^{\,2}bm^{\,2}a-96am^{\, 3}by=\)[ ]\(\displaystyle \big(\)[ ]\(\displaystyle \big)^2\)