В окружность с радиусом А вписан квадрат, а в квадрат вписана окружность и так далее....

Это бесконечная геометрическая прогрессия со знаменателе равны $q= \frac{1}{2}$ , потому что по формуле пусть сторона квадрата равна $t$ тогда выразим сторону квадрата через радиус
$A=\frac{\sqrt{2}}{2}t\\ t=\sqrt{2}A$
теперь следующий квадрат будет меньше , выразим сторону опять так же
$r=\frac{\sqrt{2}A}{2}=R=\frac{\sqrt{2}t_{1}}{2}\\ t_{1}=A$
итд получим что они будут отличаться друг от друга на 0,5
тогда по формуле, сумма квадратов равна

$S=\frac{2A^2}{1-0.5 }=4A^2$