Если число c=-2 является корнем многочлена кратности не менее 2

Крайние коэффициенты легко найти:
Ax5=x5⇒A=1;
4D=16⇒D=4.
Тогда:
x5+5x4+ax3+bx2+16x+16≡x2+4x+4x3+Bx2+Cx+4 . (*)
Раскрыв скобки и приравняв коэффициенты многочленов в обеих частях тождества (*), получим:
B+4=5C+4B+4=a4+4C+4B=b16+4C=16⇒B=1C+4B+4=a4+4C+4B=bC=0⇒B=14+4=a4+4=bC=0⇒B=1a=8b=8C=0
Легко убедиться, что полученное решение удовлетворяет тождеству:
x5+5x4+8x3+8x2+16x+16≡x2+4x+4x3+x2+4.
Ответ: a=8;b=8.