Написать вид частного решения с неопределенными коэффициентами (не находя их числовых значений)

Чтобы найти вид частного решения, сначала найдём решение соответствующего однородного уравнения, получим:
k2-2k+2=0
D=4-4*1*2=4-8=-4
k1=2-2i2=1-i
k2=2+2i2=1+i
Так как получились сопряженные комплексные корни, общее решение однородного уравнения выглядит так:
Y=C1exsinx+C2excosx
Найденные корни уравнения совпали с показателями в правой части, поэтому частное решение ищем в виде:
y=xexAcos x+Bsinx+Cex+Dsinx+Ecosx