龟驮碑的故事起源于陈宣帝年间，当时北方为北周，北周武帝灭佛时，齐地海曲慧闻禅师被迫从海上南下，遇到大风浪，船沉海底。这时有一只神龟将慧闻等人驼到江宁（现在的南京）。慧闻向神龟道谢时，神龟说:"师父不认识我了，我就是海曲（今日照）石梁溪放生池里的老龟。这时慧闻才恍然大悟。原来慧闻在海曲曾买下石梁溪作为放生池。后来慧闻将这个故事讲给陈宣帝听，陈宣帝很感动，就下诏建报恩寺，并为此立碑。石碑由龟背负，既是对神龟报恩的诠释，也取其天长地久之意。

现如今人们建造龟驮碑主要因为以下四点：

一是因龟体矮背大，有足够的承载量，用其所长；
二是龟喻长寿，取其生命长久的属性，寓意所载事迹永远流传，符合万古流芳之意；
三是龟自古以来就与龙、凤、麒麟并称四灵；
四是龟习文，龟自古就与文字有关，如甲骨文等。