всего точек 600*800=480 000
размер файла 512 мб
выясним размер 1 точки
512мб переведем в килобайты, далее в байты
512*1024*1024=536870912 байт размер картинки
536870912 делим на 480 000=1118.48 байт на 1 пиксель
16 млн цветов кодируются 3 байтами
составим пропорцию
16млн=3 байта
Х = 1118 байт
х= (1118*16)/3=5962.66 млн цветов
Ответ: 5962.66 млн цветов
А вообще под такие параметры не найдешь картинку) но это задача.