Гіпотенуза прямокутного трикутника дорівнює двом радіусам описаного кола, тобто дорівнює 10.
Приймемо довжину одного катета за х + 2.
Тоді інший має бути: (10 - х) + 2 = 12 - х.
За теоремою Піфагора: (х + 2)^2 + (12 - х)^2 = 10^2.
х^2 + 4х + 4 + 144 - 24х + х^2 = 100
2х^2 - 20х + 48 = 0
х^2 - 10х + 24 = 0
За теоремой Вієта:
х1 = 4
х2 = 6
Якщо х = 4, тоді довжини катетів: 4 + 2 = 6 і 12 - 4 = 8.
Якщо х = 6, тоді довжини катетів: 6 + 2 = 8 і 12 - 6 = 6.
Менший катет трикутника дорівнює 6.