À l'époque carolingienne existait à cette place un donjon.
Au Xe siècle, le comte de Montdidier habite cette forteresse.
Son épouse fait construire à proximité l'église Notre-Dame.
Philippe-Auguste fera du château des comtes sa résidence royale et restaurera les fortifications.
Au XVIe siècle, il devient le siège des corps judiciaires.
Puis en 1800, la salle d'audience devient celle du parquet du Procureur de la République.
Détruit pendant la Première guerre mondiale, cet édifice est reconstruit vers 1930 dans le style néo-gothique, mais le plan intérieur garde les mêmes caractéristiques.
Seules la base et la tour Philippe-Auguste attenante ont été conservées.