Необходимо найти возможную экстремаль yx

Записываем функцию Лагранжа:
Fx,y,y',λ=y'2+λ1y+λ2xy
Имеем:
∂F∂y=λ1+λ2x
∂F∂y'=2y'
Тогда:
ddx∂F∂y'=2y''
Записываем уравнение Эйлера:
∂F∂y-ddx∂F∂y'=0
В нашем случае:
λ1+λ2x-2y''=0
Или:
y''=λ12+λ2x2
Дважды интегрируем и получаем:
y=λ1x24+λ2x312+c1x+c2
Подставляя в уравнения связи:
01yxdx=01λ1x24+λ2x312+c1x+c2dx=
=λ1x312+λ2x448+c1x22+c2x01=λ112+λ248+c12+c2
01xyxdx=01λ1x34+λ2x412+c1x2+c2xdx=
=λ1x416+λ2x560+c1x33+c2x2201=λ116+λ260+c13+c22
Определяем неизвестные из граничных условий и уравнений связи:
y0=0,y1=0,01yxdx=1,01xyxdx=0
Имеем:
0=c20=λ14+λ212+c1+c21=λ112+λ248+c12+c20=λ116+λ260+c13+c22 c1=36c2=0λ1=-384λ2=720
Получили допустимую экстремаль:
y=60x3-96x2+36x
А соответствующее значение функционала y'=180x2-192x+36:
Vyx=01y'2xdx=01180x2-192x+362dx=
=0132400x4-69120x3+49824x2-13824x+1296dx=
=6480x5-17280x4+16608x3-6912x2+1296x01=192