據考古學家考證，中國是最早發現煤和使用煤的國家。
我們的祖先最早把煤叫做“石涅”，後來又叫“石墨”、“石炭”。古籍《山海經》裏曾寫道：“女床之山其陰多石涅。”可見煤作為一種礦物質，最遲在戰國時期，就已被我國古代的勞動人民所發現和利用。這在我國的古籍中有明確記載，如《史記·外戚世家》：竇太後“弟日竇廣國，子少君……為其主人入山作炭，寒臥岸下百餘人，岸崩，盡壓殺臥者，少君獨得脫。”據考古學家考查發現，在我國漢代的冶鐵遺址裏，有冶煉時使用的各種燃料，其中就有煤餅(即蜂窩煤)。這一重要發現，說明在西漢時期，煤已經不僅用於工業，而且那時的人已經會把開采出來的煤製成煤餅。
據史料記載，到了三國時期，曹操曾在東漢獻帝建安十五年(210)修築銅雀台時，在室井內儲存了煤，以備打仗時燃用。後魏時期的一本古籍《水經注》上，有這樣一段話：“鄴縣西三台，中日銅雀台……上有冰室。室有數井，藏冰及石墨。石墨可書，又燃之難盡，亦謂之石炭。”由此可見，當時的皇家貴族已經開始利用煤作燃料。
到了隋朝，煤在民間已經開始通用。曆代的王朝為了增加財政收入，獨攬厚利，把煤作為自己的專賣品。到了宋朝時期，朝廷已經設有專門賣煤的職務了。到了元代，人們把“石炭”開始稱為“煤炭”。
在明朝時期的一本古書《神宗實錄》中，記載了一次煤業民戶反抗封建統治者而進行群眾性鬥爭的史實。這說明，我國的煤業生產在當時已經是一個大的生產行業，煤的開采與使用也已經十分廣泛。
明末清初時期，我國的煤業已經達到當時世界上最高的水平，而且已經能煉出焦炭。歐洲有關煤的開采的最早記載，見於13世紀，比中國晚了1000多年。而且直到18世紀才會用煤煉出焦炭來。