Исследовать на экстремум функцию fx y=x2-3xy-2y2+4x+11y-8

Найдем критические точки из системы уравнений:
∂z∂x=0∂z∂y=0
∂z∂x=y=const=(x2-3xy-2y2+4x+11y-8)x'=2x-3y+4
∂z∂y=x=const=(x2-3xy-2y2+4x+11y-8)y'=-3x-4y+11
2x-3y+4=0-3x-4y+11=0 2x-3y=-4-3x-4y=-11
Решим систему по формулам Крамера:
∆=2-3-3-4=-8-9=-17
∆1=-4-3-11-4=16-33=-17
∆2=2-4-3-11=-22-12=-34
x=∆1∆=-17-17=1 y=∆2∆=-34-17=2
Получили критическую точку:
M1;2
Вычислим частные производные второго порядка:
∂2z∂x2=2x-3y+4x'=2
∂2z∂y2=-3x-4y+11y'=-4
∂2z∂x∂y=(-3x-4y+11)x'=-3
Вычислим значение частных производных второго порядка в критических точках:
A=∂2z∂x2M=2 C=∂2z∂y2M=-4 B=∂2z∂x∂yM=-3
Вычислим значение выражения:
AC-B2=-8-9=-17
Так как AC-B2<0 то в точке M экстремума нет