Переводить надо через двоичную систему. Переводим
А87 в двоичную по 4 цифры на каждый символ = 1010 1000 0111
Затем полученное число делим по 3 цифры начиная справа налево и смотрим значения по таблице в учебнике или тетради.
101 010 000 111 = 5207 в восьмеричной