PascalABC.NET Вот кусочек программки: // x=3.1 (введено с клавиатуры) // y=0.8 (введено с...

Question

PascalABC.NET

Вот кусочек программки:

// x=3.1 (введено с клавиатуры)
// y=0.8 (введено с клавиатуры)
// p=2 (рассчитано программой выше)

a:=Frac(x); // =0,1
b:=Frac(y)-0.5; // =0,3
kp:=sqrt(sqr(0.5-a)+b*b); // =0,5
if kp>=0.5 then p:=p+1;

и вот тут компьютер почему-то считает, что kp<0,5<br> т.е. при выводе на экран, - выводится значение kp=0.5, но при сравнении с 0,5 оно оказывается меньше.
Перепробовала все, что смогла придумать. Даже сравнивала kp с корнем из 0.25 (чем оно и является). Безрезультатно.

Мне нужны конкретные ответы на вопросы:
1) Почему переменная, равная 0,5, меньше, чем 0,5?!
2) Как это можно исправить?

Заранее спасибо.

PS: вычисление корня заменить ничем нельзя (нахождение гипотенузы)

Comments

Проблема связана с погрешностью вычислений. Значение переменной НЕ 0,5 в точности, а немного меньше.

---

Постарайтесь использовать как можно больше операций с целыми числами (они выполняются точно), поменьше с нецелыми. В данном конкретном случае если поставить в условии не 0,5, а 0,5 минус что-то маленькое, всё сработает.

---

+ можно не извлекать корень, а сравнивать с 0,25 подкоренное выражение, например. Вернее, с 0,25 минус что-то маленькое.

Answer 1

Чтобы разъяснить происходящее, были сделаны следующие шаги.
1. Константы 3.1 и 0.8 переведены в машинное представление а затем назад в десятичное с максимальной для паскалевских данных вещественного типа real (он же double) точностью (вложения 1 и 2).
2. В системе компьютерной алгебры, позволяющей работать с произвольной точностью (выбрана точность в 30 значащих цифр) для полученных констант выполнены соответствующие заданному фрагменту программы вычисления (вложение 3)
3. Результат 0.499999999999999955591079014996 был переведен в машинное представление. Затем в машинное представление была переведена константа 0.5, которая, как видно во вложении 4, представляется в компьютере точно. Поэтому проверка на точное равенство с 0.5 дает не тот результат, который Вы ожидали.
4. Можно было также воспользоваться программой на паскале.
begin
  var x:=3.1;
  var y:=0.8;
  var p:=2;
  var a:=Frac(x); // =0,1
  var b:=Frac(y)-0.5; // =0,3
  var kp:=sqrt(sqr(0.5-a)+b*b); // =0,5
  if abs(kp-0
  Writeln(kp-0.5)
end.

Результат: -5.55111512312578E-17
Это как раз то, что так портит Вам всю картину.

По поводу Вашего условия if kp>=0.5 then p=p+1;
Ошибка имеет порядок 0.6·10⁻¹⁶ и наверно ничего страшного не будет, если оператор (с запасом) подправить на if kp>=(0.5-1e-15) then p:=p+1;

---

---

---

---

Comments

Спасибо! Все наглядно и понятно.