Карандаш был изобретен в 1775 году французом Николя Жак Конте. Идея заковать в футляр легко оставляющий след на бумаге, но пачкающий руки, графит, сохранила имя изобретателя и бизнесмена в веках. Фирма «Конте» до сих пор является одним из лидеров производства карандашей.
Первоначально графит заправлялся в металлическую трубочку, часто золотую и карандаш кроме своей основной функции - письма на бумаге, нёс и некоторую статусную нагрузку, как предмет роскоши.
Прототипы современного карандаша известны уже в средние века. Так, вставлявшиеся в металлические зажимы свинцовые, серебряные стержни дававшие темно-серые или коричневые тона употреблялись в 12-16 веках. В 14 веке появился так называемый итальянский карандаш из глинистого сланца, который дает матовый оттенок и слабую черноту. С 17-го века получили распространение графитные карандаши, которые отличались малой интенсивностью и лёгким блеском. К этому же периоду относится и широкое использование карандашей из порошка жженой кости, скреплённого растительным клеем, они давали сильный черный матовый штрих.
С прототипами скорее всего и связано появление слова «карандаш» . Оно восходит к тюркскому karadas «черный камень» и турецкому karatas – “чёрный сланец”. Лингвисты связывают с ним также слово карандыш – крошка, карапуз, маленький человек, указывая на близость его значения с немецким словом «stift» - карандаш карапуз.