A ceruza legközelebbi elődje az ezüst- vagy ólomhegy volt, mígnem 1565-ben (egyes források szerint már 1500-ban) egy nagy grafitlerakódást fedeztek fel Gray Knotts megközelítésénél az angliai Scatwaite völgyében. Ez a különleges grafitlerakódás rendkívül tiszta és szilárd volt, és könnyen pálcákra fűrészelhető. Ez az egyetlen nagyszabású grafitlelőhely, amelyet valaha ilyen szilárd formában találtak. A kémia gyerekcipőben járt, és az anyagot az ólom egyik formájának gondolták. Következésképpen plumbago-nak (latinul „ólomérc”) nevezték el. Mivel a ceruzamagot több nyelven még mindig „ólomnak” (lead) nevezik, sok emberben az a tévhit, hogy a ceruza grafitja ólom, a ceruza fekete magját pedig még mindig ólomnak nevezik, bár sohasem tartalmazott ólom elemet.

A grafit értéke hamarosan óriásinak lett, főként azért, mert ágyúgolyók öntőformáinak kibélelésére használható; a bányákat a korona átvette és őrizte. Amikor elegendő grafitkészlet gyűlt össze, a bányákat elárasztották, hogy megakadályozzák a lopást, amíg többre nem volt szükség.

Felfedezték a grafit ceruzaként való használhatóságát is, de a ceruzaként használt grafitot csempészni kellett. Mivel a grafit puha, valamilyen burkolatot igényelt. A grafitrudakat kezdetben zsinórba vagy báránybőrbe tekerték a stabilitás érdekében. Anglia monopóliumot élvezett a ceruzagyártásban, amíg 1662-ben Németországban nem találtak egy módszert a grafitpor helyreállítására. A jellegzetesen négyzet alakú angol ceruzákat azonban az 1860-as évekig is természetes grafitból kivágott pálcákkal készítették. A tömbgrafit eredeti leleteinek közelében fekvő Keswick városában ma is ceruzákat gyártanak, a gyárban a Derwent Ceruzamúzeum is található. A „grafit íróeszköz” jelentése nyilvánvalóan a 16. század végén alakult ki.

1560 körül egy Simonio és Lyndiana Bernacotti nevű olasz házaspár elkészítette a modern, faburkolatú ácsceruza valószínűleg első tervrajzát. Változatuk egy lapos, ovális, kompaktabb típusú ceruza volt. Röviddel ezután egy kiváló technikát fedeztek fel: két fa felét kifaragtak, belehelyeztek egy grafitpálcát, majd a feleket összeragasztották – lényegében ugyanazt a módszert használják a mai napig.
Az első kísérlet grafitporból készült grafitrudak előállítására a németországi Nürnbergben történt 1662-ben. Grafit, kén és antimon keverékét használták.

Az angol és a német ceruza a napóleoni háborúk idején nem állt a franciák rendelkezésére; Franciaország a Nagy-Britannia által bevezetett tengeri blokád alatt nem tudta behozni a tiszta grafitrudakat a brit Gray Knotts bányákból – ez volt az egyetlen ismert forrás a világon. Franciaország sem tudta importálni az alacsonyabb színvonalú német grafitceruza-helyettesítőt. Napóleon hadseregének egyik tisztjének erőfeszítései kellettek ahhoz, hogy ez megváltozzon. 1795-ben Nicolas-Jacques Conté felfedezett egy módszert a porított grafit agyaggal való összekeverésére, majd a keverékből rudakká formálására, amelyeket aztán kemencében kiégettek. A grafit és agyag arányának változtatásával a grafitrúd keménysége is változtatható volt. Ez a gyártási módszer, amelyet korábban az osztrák Joseph Hardtmuth, a Koh-I-Noor 1790-es alapítója fedezett fel, továbbra is használatos. 1802-ben a bécsi Koh-I-Noor cég szabadalmaztatta a grafit ólom grafitból és agyagból történő előállítását.

1858. március 30-án Hymen Lipman megkapta az első szabadalmat, amellyel radírt rögzített a ceruza végére. 1862-ben Lipman 100 000 dollárért eladta szabadalmát Joseph Reckendorfernek, aki ezután beperelte a Faber-Castell ceruzagyártót jogsértés miatt. A Reckendorfer kontra Faber ügyben (1875) az Egyesült Államok Legfelsőbb Bírósága Reckendorfer ellen hozott ítéletet, érvénytelennek nyilvánítva a szabadalmat.

Henry Petroski történész megjegyzi, hogy bár a ceruzák tömeggyártásának egyre hatékonyabb eszközei csökkentették a ceruza cseréjének költségeit, azelőtt az emberek továbbra is a ceruza csonkját használták. Azok számára, akik nem érezték kényelmesen a csonkot, ceruzahosszabbítót árultak. Ezek az eszközök úgy működnek, mint egy zsírkréta…a ceruzacsonk egy szár végébe illeszthető…A hosszabbítók különösen a mérnökök és rajzolók körében voltak elterjedtek, akiknek a kedvenc ceruzái nagyon drágák voltak. A hosszabbító használatának megvan az az előnye is, hogy a ceruza kopása során nem változik észrevehetően a súlya.” A művészek hosszabbítót használnak, hogy maximalizálják színes ceruzáik használatát.

Angliában továbbra is egész fűrészelt grafitból készítettek ceruzákat. Henry Bessemer első sikeres találmánya (1838) a grafitpor szilárd grafittá préselésének módszere volt, amely lehetővé tette a fűrészelésből származó hulladék újrafelhasználását.
A grafitceruzák agyag és grafit keverékéből készülnek, sötétségük világosszürkétől feketéig változik: minél több agyag, annál keményebb a ceruza. A minőségek széles választéka áll rendelkezésre, főként azon művészek számára, akik a világosszürkétől a feketéig terjedő tónusok teljes skálájának létrehozása iránt érdeklődnek. A mérnökök előnyben részesítik a keményebb ceruzákat, amelyek lehetővé teszik a ceruzahegy alakjának jobb szabályozását.

A gyártók osztályozással különböztetik meg ceruzáikat, de nincs közös szabvány. Két azonos minőségű, de különböző gyártótól származó ceruza nem feltétlenül azonos tónusú és keménységű.

A legtöbb gyártó, és szinte mindegyik Európában, a ceruzáit H (általában „keménységként” (hardness) értelmezik) B-ig (általában „feketeség” (blackness)), valamint F betűvel (általában „finomság”-nak (fineness) jelöli, bár az F ceruza nem finomabb vagy könnyebben élezhető, mint bármely más minőség. Japánban „keménynek” is nevezik). A szabványos íróceruza HB besorolású. Ezt a megnevezést legalább 1844-ben használták. B-t a feketére, H-t a keményre használt; a ceruza minőségét sorozattal vagy egymást követő H-kkal vagy B-kkel írták le, mint például a BB és BBB az egymást követő lágyabb vezetékek, illetve a HH és HHH az egymást követő keményebbek. A Koh-i-Noor Hardtmuth ceruzagyártók azt állítják, hogy először használták a HB megjelöléseket, ahol a H a Hardtmuthot, a B a cég Budějovice-i székhelyét, az F pedig a ceruzagyártás technológiai fejlesztéséért felelős Franz Hardtmuthot jelenti.

2021-től a nagyon puha, feketét jelölő ceruzáktól a nagyon kemény, világos jelölésű ceruzákig terjedő ceruzakészlet általában a legpuhábbtól a legkeményebbig terjed, az alábbiak szerint:

9B-4B-ig: rendkívül puha, fekete
művészi célokra: vázlatok, tanulmányok

3B-B-ig: puha
szabadkézi rajz, írás

HB és F: közepes
írás, lineáris rajz

H és 2H: kemény
műszaki rajz, matematikai rajz

3H-5H-ig: nagyon kemény
műszaki részletes tervek, grafikus ábrázolások

6H-9H-ig: rendkívül kemény, világos szürke
speciális célokra: litográfia, térképészet, fafaragás

A Koh-i-noor húsz fokozatot kínál 10H-tól 8B-ig az 1500-as sorozatához. A Mitsubishi Pencil huszonkét fokozatot kínál 10H-tól 10B-ig a Hi-uni termékcsaládjához. A Derwent húsz minőséget gyárt 9H-tól 9B-ig grafikus ceruzáihoz. A Staedtler 24 darabot gyárt 10H-tól 12B-ig a Mars Lumograph ceruzáihoz.

A számokat először Conté, majd John Thoreau, Henry David Thoreau apja használta a 19. században. Bár Conté/Thoreau egyenértékűségi táblázata széles körben elfogadott, nem minden gyártó követi azt; például a Faber-Castell egy másik ekvivalencia táblázatot használ a Grip 2001 ceruzáiban: 1 = 2B, 2 = B, 2½ = HB, 3 = H, 4 = 2H.

Az Egyesült Államokban gyártott ceruzák többsége sárgára van festve. Henry Petroski szerint ez a hagyomány 1890-ben kezdődött, amikor az osztrák-magyar L. & C. Hardtmuth Company bemutatta Koh-I-Noor márkáját, amelyet a híres gyémántról neveztek el. A világ legjobb és legdrágább ceruzájának szánták, és abban az időben, amikor a legtöbb ceruzát vagy sötét színűre festették, vagy egyáltalán nem, a Koh-I-Noor sárga volt. Amellett, hogy egyszerűen jellegzetes, a színt az osztrák-magyar zászló ihlette; a Keletet is sejtetette abban az időben, amikor a legjobb minőségű grafit Szibériából érkezett. Más cégek ezután lemásolták a sárga színt, hogy ceruzáikat ehhez a kiváló minőségű márkához társítsák, és olyan márkaneveket választottak, amelyek kifejezett keleti utalásokat tartalmaznak, mint például a Mikado (Mirado néven) és a Mongol.

Nem minden országban használnak sárga ceruzát. A német és brazil ceruzák például gyakran zöldek, kékek vagy feketék, a Faber-Castell, egy nagy német írószergyártó cég védjegyszínei alapján, amely ezekben az országokban üzemel. A dél-európai országokban a ceruzák általában sötétvörös vagy fekete színűek, sárga vonalakkal, míg Ausztráliában pirosak, egyik végén fekete csíkokkal. Indiában a legelterjedtebb ceruzaszínséma a sötétvörös volt fekete vonalakkal, és számos színsémát tartalmazó ceruzát gyártanak.

A ceruzák általában kerekek, hatszögletűek vagy néha háromszög alakúak. Az ácsok ceruzái jellemzően oválisak vagy téglalap alakúak, így munka közben nem gurulnak el könnyen.