西汉景帝三年（公元前154年），皇帝刘启将他的儿子刘馀从 淮南迁到曲阜，封为鲁王，史称恭王。鲁恭王好治宫室，传说在扩建王宫拆除孔子故宅时，忽然听到天上似有金石丝竹之声，有六律五音之美，结果从墙里面发现了《尚书》、《礼》、《论语》、《孝经》等书，一共几十篇。这些经典是用蝌蚪文写成的，不同于当时经师们所保存的用隶书书写的经典，人们就把它们称为“孔壁古文”。其中最有影响的是《古文尚书》，它比《今文尚书》多十六篇。历代的古文经学家认为这是可信的，直到清代的今文经学家魏源、龚自珍、康有为才怀疑是伪造的，但也拿不出确凿的证据。
    “孔壁古文”是什么时候进入孔壁的呢？据说是秦始皇焚书坑儒的时候，孔子九代孙孔鲋认为“秦非吾友，……吾将藏之，以待其求”，就将这些经典偷藏在孔子故宅墙壁内，自己就到嵩山隐居去了。孔鲋到死也没有把它们取出，但“竹简不随秦火冷”，这些经典终于保存下来。
    为了纪念孔鲋藏书，金代就在孔庙的孔子故宅内修建了殿堂。因传说拆墙取书时天上有金石丝竹之声，故取名为“金丝堂”。明宣德九年（公元1434年），苏州知府况钟凯曾捐款重建。明弘治十三年（公元1500年）重修孔庙时将金丝堂迁往孔庙西路，在原址建起了诗礼堂。后来在诗礼堂后又建了“鲁壁”，纪念孔鲋藏书。
    鲁壁藏书是历代文人津津乐道的事情，宋代文学家王禹在鲁壁铭并序中说：“文籍不可以久废，亦受之以兴，……其废也，赖斯壁而藏之，其兴也，自斯壁而发之”。将文化复兴归功于鲁壁，清乾隆皇帝也写诗赞颂：“经天纬地存千古，岂系恭王坏宅是”。鲁壁藏书确实保护了中国的文化典籍，是一件值得纪念的事情

曾有人对鲁壁藏书提出置疑，但又没有更充分的理由来说明。