Пусть первое число х, а второе у. Тогда верно следующее: x/y=3 (или x=3y) и то, что (x^2+y^2)/(x+y)=5. Т.к. x=3y, то подставим в значения x значение 3y: (9y^2+y^2)/(3y+y)=5, тогда 10y^2/4y=5, и в итоге: 2,5y=5, тогда y=2, а соответственно x=3*2=6. Проверим: 6/2=3? да, (2^2+6^2)/(2+6)=5? да.