本来一家人生活就很清贫，现在他要孤身保管地下文库，还要抚养三个未成年的孩子。为了文库的安危，又不能出去工作，没有任何经济来源的陈为人只好典当衣物，维持最低限度的生活。可一楼的摆设仍维持着一个老板的“表面文章”。全家每天以两餐红薯或山芋粥充饥。为了不让房东察觉他家生活艰辛而引起怀疑，他常常盖上一片干鱼端到楼上吃，快到楼门口时怕孩子们看见，又把鱼片藏起来。就这样，那片干鱼片足足用了一个月之久。
在最困难的日子里，陈为人急得去找鲁迅帮忙，还靠进步知识青年李慕英到外面教书接济。但是掩护机关始终是个难题，最后不得已，他写信把在河北正定小学任教的妻妹韩慧如找来帮忙。
1935年底，韩慧芝被释出狱。为了生计，韩家姐妹外出教书谋生，不想这却给陈为人带来了转机。在培明女中附小当教员的韩慧英，通过女中训育主任罗叔章，与上海的地下党组织接上了关系。他们这才知道，受党的委托，中央特科负责人徐强也在到处查访陈为人。
1936年秋，陈为人终于与徐强接上关系。对这一次接头的情景，徐强记忆很深：“我见到为人，脸色苍白，身体十分瘦弱，正在吐血。他不敢借钱，又不敢找朋友帮忙，肩上的担子重啊！同我交谈明显地看出他很警惕。我几次问他的住址，他都不敢讲。”
而从接头的小饭店归来，陈为人明显轻松了许多，还与孩子们说笑道：“爸爸今天总算吃饱了，把盘子都舔光了。”
陈为人早年在东北狱中就感染上了肺病，接手地下文库后，长期忍饥挨饿，缺医少药，肺病日趋严重。为陈为人的身体也为了文库的安全，徐强决定立即转移全部文件。
移交完文件，卸下了几年的重担，陈为人回到家中就吐着大口鲜血昏倒在地，半年之后病重不起。为了挽救他的生命，党组织特意对韩慧英说：“只要能保住为人，需要用多少钱，就用多少钱。”可陈为人不忍党在极端困难时期把少得可怜的经费浪费在自己身上，党组织只好多次派党内医生到家里为他治病。无奈他沉疴日重，1937年3月12晚，年仅38岁的陈为人默默地走完了他的一生。1945年中共“七大”追认陈为人为革命烈士。震憾：女孩因向灾区捐款被母亲打死
从1937年起，中央文库由上海地下党情报系统保管。
首先接替陈为人管理中央文库的是徐强和他的妻子李云。后来，徐强、李云先后奉调延安，文库交八路军驻沪办事处接管，由负责情报工作的吴成方领导。1942年夏，吴成方决定派年仅23岁的陈来生接管地下文库。
陈来生接手之时，正是日本侵略者疯狂镇压中国革命的黑暗时刻，日伪宪兵、特务、巡警在街头巷尾布设明岗暗哨，在交通要道拉上铁丝网实行划地封锁。在如此恶劣的环境中，陈来生发动全家，用竹篮、面粉袋等简陋工具“小鱼钻网眼”，将2万余件文件顺利运到公共租界新闸路赓庆里。
为了掩护看守同时又能贴补家用，陈来生在弄堂口摆了个炒货摊子，夜间两个弟弟就睡在阁楼上，寸步不离文库。这种日子只过了两个多月，党组织就注意到新库址的弄堂口闲杂人员太多。于是，陈来生喘息未定，又要开始新迁移。
陈来生最初接管档案库时，吴成方就告诉他，党组织现在也很困难，要他自己设法解决经费问题。可陈家一贫如洗，怎么办？和当时上海几百万失业者一样，陈来生也带着家人跑单帮。
在此期间，中央文库的文件多次被党中央调用。
抗战胜利后，1946年5月，周恩来率中共代表团赴南京，国共开始新一轮的谈判。当时，以中国共产党谈判代表团团员的特殊身份，可以乘坐国民党方面的飞机往来于西安、重庆、南京之间。谈判间隙，周恩来牵挂着陷于上海多年的中央档案。他派代表团成员刘少文亲去上海筹划全部库藏迁至延安的具体事宜。接到指令，陈来生马上买来两个航空皮箱，将第一批档案5000余份历史文件送到吴成方家，交由刘少文乘坐国民党专机，转道西安，送到延安，交由中央秘书处保存，编号“06”，意思是1946年收进的。