Вообще для вычисления НОД-а используеться алгоритм Евклида, который дествует примерно так:
64≠0 и 20≠0, тогда НОД(64, 20)=НОД(64-20, 20)
44≠0 и 20≠0, тогда НОД(44, 20)=НОД(44-20, 20)
20≠0 и 24≠0, тогда НОД(24, 20)=НОД(24-20, 20)
4≠0 и 20≠0, тогда НОД(20, 4)=НОД(20-4, 4)
...
4≠0 и 8≠0, тогда НОД(8, 4)=НОД(8-4, 4)
4≠0 и 4≠0, тогда НОД(4,4)=НОД(4-4,4)
4≠0, но 0=0, итак получается, что НОД(64, 20)=НОД(4, 0)=4