При каких a и b многочлен x5+ax3+b имеет двойной корень

Если x0 - двойной корень, то сама функция и первая производная в точке x0 равны нулю, а вторая производная не равна нулю.
Значит:
x5+ax3+b=0,5x4+3ax2=0,20x3+6ax<>0.
Так как мы ищем ненулевой двойной корень, то a <> 0.
Домножим первое уравнение на 5, а второе на x
5x5+ax3+5b=5x5+3ax3,x3=-5b2a.
Подставим в первое уравнение
x5-5b2+b, x5=3b2,
Тогда
x6=3bx2,
кроме того,
x6=x32=25b24a2
приравняв получим
x=25b6a2,
Тогда
x3=56b3216a6.
Приравняв к -5b2a, получим
108a55=-b2.
Это условие при b не равном нулю и даёт все возможные варианты при этом условии
20x3+6ax<>0
будет выполнено, то есть это будет именно двойной корень.