Формулы площади прямоугольника,квадрата и прямоугольного треугольника
Площадь прямоугольника - Площадь квадрата - = Площадь прямоугольного треугольника -
в последнем вы написали формулу прямоугольника, а не прямоугольного треугольника
Исправил
S прямоугольника = a*b S квадрата = a*a S прямоугол.треуг = ab : 2