1937年八路军驻上海办事处成立,林心平任办事处机要员。日军占领上海后,办事处转入地下,组织派林心平赴延安参加抗日军政大学第三期学习。她刻苦学习马列主义经典著作,接受严格的军事训练,多次聆听毛泽东等中央领导政治报告,政治觉悟和军事素质得到很大的提高。
1938年春,林心平调到中共中央东南局妇女部工作,之后到新四军江南指挥部一支队任文工团副团长。她工作中主动接近刚入伍的青年,对涉世未深的青年宣传共产党抗日主张,扩大地方抗日武装游击小组,并为部队输送不少优秀的青年。林心平不畏艰难,带领群众在险恶的环境中忘我的工作,力挫日伪军,人民群众称她为“