Если Вы правильно написали задание, то получится так:
(m-n+1)^2-(m-1+n)^2/4m(n+1) = (((m-n+1)-(m-1+n))((m-n+1)+(m-1+n)))/4m(n+1)=
=((m-n+1-m+1-n)(m-n+1+m-1+n))/4m(n+1)=((2-2n)(2m+2))/4m(n+1)=
=(4(1-n)(m+1))/4m(n+1)=((1-n)(m+1))/m(n+1)
при m=1 12/13=25/13 и n=√2²=2 получим:
((1-2)(25/13+1))/((25/13)(2+1))=(-38/13)/(25*3/13)=(-38*13)/(13*25*3)=-38/75