1952年2月29日，上海市委召开了一次干部大会，宣布黎玉被撤销了市委秘书长的职务，改任劳动工资处处长。这个职位的变化，反差极大。就在几年前，他还是中共中央华东局的副书记和中共七大的候补中央委员，并且曾担任山东省政府主席和山东军区副政治委员。在山东的那段时期，他领导着一个拥有数千万居民和数十万武装力量的战略大本营。然而，如今，他的角色却降至处级。这个变动并不是一场正常的职位调整，而是之前错误判断的延续。更有趣的是，尽管遭遇了这样的降职，黎玉仍然坚守岗位，继续负责工资制度、劳资关系以及工人生活等看似琐碎的事务。要理解这个处长角色的含义，就必须回溯到16年前，那时的山东党组织与上级几乎失去了联系。

时间回到1936年4月，黎玉受中共北方局的委派，从河北前往山东，目的只有一个：恢复和重建遭到破坏的中共山东省委。那时的山东形势十分严峻，省委机关接连遭到破坏，大批党员被捕或牺牲，部分地方组织与上级彻底断绝联系。黎玉隐藏身份，未带成建制的队伍，只能骑自行车悄悄来到济南，秘密寻找仍在抵抗的党员。1936年5月1日，他与赵健民和林浩在济南四里山附近秘密会合，宣布重建中共山东省委，黎玉担任书记。这个秘密成立的省委，最初掌握的力量极为有限。

一年多后，卢沟桥事变爆发，日本军国主义展开全面侵华战争，日军迅速侵入山东，国民党的地方军政机关大量撤退，造成社会秩序极度混乱。黎玉领导的山东省委发出了激动人心的号召：“每一个优秀的共产党员，应该脱下长衫去参加游击队。”这是一次重要的动员，意味着地下党员要从秘密活动转为公开的抗战，并且没有正规军支撑的山东党组织必须依赖群众，发动武装反抗。

自1937年底开始，徂徕山、天福山、黑铁山、鲁东等地先后爆发抗日起义。黎玉参与领导了徂徕山起义，各地抗日武装经过整合逐步汇集。到1938年12月，八路军山东纵队正式成立，张经武担任总指挥，黎玉作为政治委员，下辖部队约2.4万人。山东的共产党人终于拥有了一支统一指挥的抗日武装力量。

然而，黎玉深知地方起义的队伍虽有热情和地方知识，但缺乏正规的战斗经验。1938年，他前往延安汇报山东的工作，并请求中央派主力部队支援。毛泽东认可他的看法，认为不仅要派一个团，更应派遣更多力量。因此，八路军的主力陆续进入山东，地方武装与主力部队的融合开始加速，建立根据地的步伐从分散走向统一。黎玉的职务也逐步上升，他先后担任山东纵队的政治委员、山东军区副政治委员，以及山东省战时行政委员会主任委员等重要职务。

在延安的一次干部会议上，毛泽东专门表扬了山东的工作，并让黎玉站出来，让大家更好地认识他。这一举动不仅是对黎玉个人的认可，更是对山东地区独立发动武装斗争和开辟抗日战场的全局肯定。

然而，建牢根据地并非仅在于击败敌军，更在于如何确保军队的生存和市民的生活，以及基层政权的有效运作。山东正处于日本占领区的核心，铁路、公路和城市多被日伪军控制，敌人不断进行“扫荡”和封锁，导致根据地时常被切割。黎玉的责任超出了军事范畴，需要负责组织政权、筹集资金、发展生产、动员群众，还需处理军民关系。

他曾强调，人民和军队都必须有足够的食物和衣物，二者缺一不可。因此，山东根据地建立了各级抗日民主政权，推行“三三制”，以及减租减息和大生产运动。在极其艰苦的环境下，山东利用胶东的黄金资源支援党中央。1938年，黎玉发现在延安的中央财政紧张，建议利用胶东丰富的金矿资源来筹集黄金。随后，胶东的党组织和抗日军民在日伪的严密控制下启动了“黄金抗战”。据记录，从1937年至1945年，他们筹集了约十三万两黄金，送往延安。这一成果的背后，既不是黎玉个人的功劳，也不仅是某个个人的努力，而是矿工、交通员、地方党组织与护送部队共同奋斗的结果。黎玉的贡献在于他早早认识到胶东黄金对全局的战略意义，并将这一地方资源转化为全国抗战的支持。

到抗战胜利前后，山东根据地的面积已发展至约十二点五万平方公里，总人口达到二千四百万人，八路军主力部队达到二十七万余人，还有约五十万地方武装和民兵力量。按人口、军队和组织的完整性来衡量，这里已成为党领导下最大的抗日根据地之一，也是全国唯一基本以一个省为主体建立的抗日民主根据地。1945年8月，山东省政府成立，黎玉出任主席，成为中国共产党领导下第一任省级人民政府的负责人。此后，众多山东部队和干部挺进东北，山东再次成为连接华北、华东与东北的重要战略纽带。黎玉的职务也达到巅峰，担任中共七大候补中央委员、华东局副书记、山东省政府主席及新四军兼山东军区副政治委员。

然而，转折来得很快。在解放战争期间，山东开展了土地改革。围绕土改的进度、政策和干部作风，华东局内部产生了不同的意见。黎玉等人在内部的分歧造成了他被贴上了“错误帽子”，从华东局副书记降至处长，遭遇了职务的巨大滑落。