Пусть в 1-й коробке х карандашей, тогда во 2-й коробке (х - 20) карандашей, а в 3-й - (х - 30) карандашей. Т.к. всего в трех коробках 80 карандашей, то составим и решим уравнение:
х + х - 20 = х - 30 = 80
3х - 50 = 80
3х = 80 + 50
3х = 130
х = 130 :3 - не делится. Ошибки в условии нет?