據說墨是東漢書法家韋誕發明的,在此之前,人們是以竹木尖點漆來書寫;這種說法,今已不攻自破,因為不論文獻上的引證,或考古發掘出土的實物,都明示墨的使用遠早於漢代。安陽殷墟出土的一塊陶片上,有用黑墨書寫的「祀」字,是用墨一類的材料書寫的;此外,有些甲骨上也有黑色或紅色的卜辭,據化驗黑色線條是和墨相近的碳化合物,紅色則是硃砂,又一些先秦遺物的發掘也有不少的墨塊和磨墨石出土。這些都可證明墨的使用由來已久,韋誕僅是墨的改良者,或為製墨家。
墨的種類依原料來區別大致可分為松煙、洋煙、油煙和漆煙等大類。松煙墨主要是以松脂燒煙,加上膠質(如鹿膠、牛膠)、藥材(如冰片、真珠)、香料(如麝香)等揉製而成,墨色雖黑但較缺少光澤,有深沉古拙之感。
洋煙墨是以碳煤及石油等燒煙做為主体,再攙合膠質、香料等一類配料製成;而後二者據說為明末製墨大家程君房所創。
油煙墨大抵用桐油、麻油和菜油等燒成煙灰,再摻合膠質、冰片和香料等製成;桐油油煙不黑,但較經濟;麻油油煙墨色黑,但少用;其他尚有多種特殊用途的墨,如硃墨等色彩墨。墨的優劣直接影響到書法作品的質感,在選取上可注意其是否質細(指較無雜質,顆粒勻細,無砂粒「打硯」之聲)、色黑(煙灰比例適當,黑而有光彩,且少渣)、膠輕(墨色易濃,又不致黏稠滯筆)、味香(清香宜人)及上硯無聲、久陳(古墨黑而有光澤)等要點;不過墨的好壞往往無法由外觀上識別,只能由口碑及多使用來判別。
前人經驗,認為墨要新磨,磨墨宜用清水,如「水滴」方式逐次添加,磨時墨條與硯臺保持垂直,重按緩轉輕推,動作徐緩而勻稱,如此可使墨汁細膩且光鮮;反之,若磨的太猛易使顆粒粗,太慢則費時又不易下墨;通常墨要磨的濃淡適中,過濃易成 「焦墨」,運筆書寫時滯悶不流暢,太淡又造成墨暈過甚,字跡無生氣;又墨磨好,停箇十分鐘左右,再沾筆書寫,如此可使墨色潤而有光澤;總之,其中的掌握只有多練習可達。墨性喜乾,但應避免陽光直接照射否則會變質或失去光澤、乾裂;故墨條使用後宜自然陰乾,或置入盒內,防止受潮。