Området som idag är Cambridgeshire befolkades av angler under 500-talet, som följde floderna upp genom The Fens. De delade upp landet i tre delar, motsvarande dagens Huntingdonshire (i väster), Isle of Ely (i nordost) och egentliga Cambridgeshire (i söder). Delarna hade en gemensam sheriff, som kom från Isle of Ely ett år, Huntingdonshire nästa och egentliga Cambridgeshire det tredje.

Området invaderades upprepade gånger av daner under vikingatiden och var periodvis en del av Danelagen. Det första omnämnandet av Cambridgeshire i skrift, i den anglosaxiska krönikan, beskriver invånarnas motstånd mot invasionen 1010.

Isle of Ely blev 1107 separerat från resten av Cambridgeshire och direkt underställt biskopen av Ely. Biskopens makt minskades vid flera tillfällen, bland annat av Henrik VIII, men Isle of Ely återförenades inte helt och hållet med Cambridgeshire förrän 1965.

Cambridgeshire undgick inte heller de senare århundradenas stridigheter i England. Under inbördeskriget mellan Stefan av Blois och Matilda höll biskop Nigellus och Geoffrey de Mandeville grevskapet för Matildas räkning. Under första baronkriget hölls Cambridge inledningsvis av Johan utan land, men det föll snart till baronerna. Under andra baronkriget togs Isle of Ely av Simon de Montforts trupper 1266, men föll 1267 till prins Edvard. Under 1200-talet grundades också universitetet i Cambridge.

Grevskapet stödde reformationen, och tillhörde i huvudsak parlamentssidan i engelska inbördeskriget. Universitetet stödde dock Karl I ekonomiskt.

Stora våtmarker odlades upp under 1600-talet genom att The Fens dränerades. Dräneringen fullbordades av nederländaren Cornelius Vermuyden runt 1652.