Х-первое число
у-второе число
{х+у=12 {x=12-y
{х²+у²=80 {(12-y)²+у²=80
(12-у)²+у²=80
144-24у+у²+у²-80=0
2у²-24у+64=0
у²-12у+32=0
D=b²-4ac=12²-4*1*32=144-128=16
y1=-b+√D/2a=12+4/2=16/2=8
y2=-b-√D/2a=12-4/2=8/2=4
{x=12-8 {x=4
{y=8 {y=8
{x=12-4 {x=8
{y=4 {y=4
Решение системы (8;4), (4;8)
Ответ: 8