800x600 = 480000 пикселей.
127 цветов = 2^7 разных значений, значит для хранения 1 пикселя нам потребуеться 7 бит, а соответственно 1 байт. Так что, если надо ответ в битаз, то 480000 пикселей * 7 бит = 3360000 бит, а если в байтах, то 480000 пикселей * 1 байт = 480000 байт.