Z=х2+5у2-4ху+2х-6у+3=
dz/dx=2x-4y+2=0
dz/dy=-4x+10y-6=0
x=y=1 - точка экстремума
d2z/dx2=2=Ad2z/dy2=10=C
d2z/dxdy=-4=B
так как A>0 и АС-В2=2*10-4*4=20-16=4>0 - выполняется условие минимума
z(x=1;y=1)=1^2+5*1^2-4*1*1+2*1-6*1+3=1 - минимальное значение функции