Пусть числа равны a, b и c. Запишем условие:
a^2 = b * c
b^2 = a * c
c^2 = a * b
Из первого выведем b и подставим во второе:
b = a^2 / c
a^4 / c^2 = a * c
a * c^3 = a^4
c^3 = a^3
Следовательно, c = a.
Подставляем в третье:
a^2 = a * b
a = b.
Доказано.