Для начала нужно перевести числа в 10-ю систему счисления(далее сс):

Числа из 10 сс переводим в 5 сс. с помощью деления на основание самой системы c отделением остатка:
501/5=100(1)
100/5=20(0)
20/5=4(0)
4/5=0(4)
Теперь берем числа выделенные жирным шрифтом и записываем их начиная с последнего. 
Тоже проделываем с y:
409/5=81(4)
81/5=16(1)
16/5=3(1)
3/5=0(3)

-------------------------------------
Операции как обычные, только как обычно привыкли в 10 сс переход через 9 - это 1 в след разряд, тут же переход через 4 - единица в след разряд:
4001 + 3114 = 12120
4001 - 3114 = 332
4001 * 3114 = 23 024 114
4001/3114 = 1.10302 (сокр. до сот.)