備中松山城跡は、市街地の北側にそびえ、大松山・天神の丸・小松山・前山の四つの峰からなる臥牛山に築かれた山城です。
備中松山城の歴史は延応2(1240)年有漢郷の地頭秋庭三郎重信が大松山に城を築いたことに始まります。その後、元弘の乱(1331)の頃には、備中守護職となった高橋宗康が、大松山のほかに小松山にも築城しており、この頃から徐々に城の範囲が拡大していったことが伺い知れます。また備中地域において、最も大きな戦いである「備中兵乱」時には、臥牛山には21の砦が築かれており、臥牛山全域まで城の範囲が拡大しています。
その後、小松山が近世城郭に整備され、天和3(1683)年に水谷勝宗による大改修が行われ、現在の姿になったと考えられています。
史跡に指定されているのは、城内の8か所の遺構であり、北から「切通及び番所跡」「大池」「大松山城跡」「天神の丸跡」「相畑城戸跡」「小松山城跡」「中太鼓櫓跡」「下太鼓の丸跡」です。中世の城郭とされるのが小松山城跡より北側にある大松山城跡・天神の丸跡・相畑城戸跡であり、曲輪や堀切等が明瞭に残っています。また小松山城跡を中心とした近世城郭には、石垣をはじめ櫓跡の礎石などをみることができます。