寺の起源は、推古朝の６００年ごろまで遡り、仲哀（ちゅうあい）天皇の后と非業の死を遂げた２人の皇子と、仏教移入に反対したため討伐した物部守屋（もののべもりや）の霊を祀るために、聖徳太子が建立したと云われている。境内には、后の墓と伝えられる古墳の石室がある。

本尊は、二千年以上も昔のインドの王后シュリーマーラーの等身像といわれる十一面観音菩薩で、その左右にも十一面観音が祀られており、三体合わせると三十三面になることから、この寺に参拝すると、西国三十三ヶ所すべてに参拝したのと同じ徳があるとされている。
また、花山法皇が宝印を掘り出し西国巡礼を再興したという伝説から中山寺は札所の中でも特別な存在となっており、毎年８月９日の行われる「星下り大会式」という大法会には、西国三十三ヶ所の観音さまがあたかも星が降るかのように寺に来迎されるといわれ、この日にお参りをすれば、四万六千日参拝したのと同じ功徳があるとして、多くの参拝者で賑わう。
寺は古く、「続日本紀」にもその名が残る長い歴史を持つ寺であるが、'95年の阪神大震災によって五百羅漢堂などの多くの建物が被災、2年後の'97年開基千四百年の記念事業と合わせ、落慶法要を行うに至り、見事に復興を果たした。
これを機にお年寄りなどのために境内にエスカレーターが設置されたことも話題となっている。

第二十三番勝尾寺からマイカーで箕面を経て国道171号線を西へ、石橋から国道176号線を西へ10km足らずのところにある。
宝塚市街地の北部、国道176号線から北に少し入った「阪急宝塚線　中山駅」付近に車を停めると、駅前はもう中山寺の参道。みやげ物店にかかる「腹帯」の看板はこの寺が古くから全国的に安産祈願の寺として名高いことを物語っており、「鐘の緒」と呼ばれる腹帯をいただいて安産祈願をし、出産後お宮参りの際にこれを奉納するのが慣わしとされている。
この安産信仰は、秀吉が世継ぎ誕生祈願をし、秀頼を授かったことに始まり、幕末には中山一位局（いちいのつぼね）が「鐘の緒」を授かって明治天皇を安産されたことで、代々皇族の安産を祈念され、全国的に有名になった。
初春の梅に始まり、四季折々の花が美しく、ハイカーや家族連れで賑わう開かれた雰囲気の寺である。