Продлим стороны квадратов вдоль "у" и "х" до пересечения.
Тангенс угла α наклона секущей линии к стороне квадрата с "х" равен:
tg α = (b + y)/(a + x).
Найдём стороны "k" и "m" серого треугольника.
k = a - (y(b + y)/(a + x)).
m = b - (x(b + y)/(a + x)).
Тогда искомая площадь равна:
S = (1/2)k*m = (1/2)*(a - (y(b + y)/(a + x)))*(b - (x(b + y)/(a + x))).
После упрощения получаем S = (1/2)*((ab - xy)²/((a + x)(b + y))).