( Сразу замечание: в давлении один нулик пропущен... :))
Дано:
p =100000 = 1*10⁵ Па
R = 6 400 км = 6,4*10⁶ м
__________
m - ?
Запишем формулу давления:
p = F / S.
Сила тяжести:
F = m*g.
Площадь поверхности Земли:
S = 4*π*R²
Тогда:
p = F / S = m*g / (4*π*R²)
Масса атмосферы земли:
m = 4*π*R²*p/g
m = 4*3,14*6,4*10⁶*1*10⁵ / 10 ≈ 8*10¹¹ кг