聂荣臻花费精力最多的是北平的社会治安。
　　社会治安是直接关系到人民生命财产安全的大事，也是中共中央安全和定都北平的关键问题。北平是和平解放的大城市，这里不仅集结了华北各地的一些反动残余势力，而且东北解放后，许多国民党特务、党团骨干和地主、恶霸、流氓头子等流亡到北平，加上社会上还流散着数万名散兵游勇，治安形势比较复杂，北平群众形容那时的北平是“五多”城市：特务多，散兵游勇多，抢匪多，小偷多，银元贩子多。所以，尽管部队进驻了北平，但治安情况仍不容忽视，仅1949年3月，北平就接连发生103起案件。
　　针对混乱的社会秩序，聂荣臻采取各个击破的方针，先指示平津卫戍部队，立即组织收容散兵游勇。
　　1949年6月，平津两地共收容国民党军流散官兵3．7万多人，解决了社会治安中的一大隐患。

　  再就是打击敌特。聂荣臻高度重视这个问题，指示有关部门下发了一个关于严防敌特活动的紧急通知，指出：敌伪在离开北平时，对特务组织曾有周密布置。他们以各种名目，混入各单位、部门、行业，进行暗杀、破坏、造谣等活动。要求各单位提高警惕，并对原有人员严密注意，慎重审查。夜晚，凡解放军工作人员，没有必要的事，切勿外出，以防不测。
　　 聂荣臻要求公安部门、卫戍部队加紧工作，发动人民群众，与危害社会治安秩序的种种反革命势力以及流氓小偷等作斗争，力争社会治安状况迅速好转。
　　与此同时，聂荣臻还指示卫戍区组织军人纠察队，经常在大街小巷巡逻，对社会上的偷盗、乞丐、流氓滋事以及吸毒、赌博等有碍社会治安的各种现象进行纠察，予以打击。聂荣臻还专门从军区随营学校中挑选了一批文化程度高、会讲英语的师生组成特别纠察队。他们身着黄色土布军装，在外国人活动的公共场所进行纠察。
　　经过军队与人民群众的努力，在新中国成立时，北平已经基本上恢复了正常秩序。旧北平时期隐藏下来的万余名特务分子、反动党团骨干，除逮捕了一批和有极少数潜逃外，大部分向军管会和人民政府自首，基本瓦解了北平的特务组织，使北平市的安全有了保障。
　　北平社会秩序的迅速好转，为新中国的定都提供了重要的社会保障条件。
　　所有这一切，都让毛泽东对聂荣臻刮目相看，所以，尽管聂荣臻已经身兼数职，毛泽东还是让他再兼任北平市市长和北平市军事管制委员会主任。
　　1949年9月8日，毛泽东亲自草拟新华社电讯，宣布：“北平市市长兼北平市军事管制委员会主任叶剑英将军奉命赴两广工作，担任中共华南分局第一书记及广东军区司令员兼政治委员。为此，中国人民革命军事委员会任命聂荣臻将军继任北平市市长兼北平军事管制委员会主任。”
　　1949年10月1日，开国大典隆重举行。也就是从这天起，北平改称北京。
　　11月20日至22日，在中山公园的中山堂，北京市召开了第二届第一次各界人民代表会议。会上，聂荣臻被选为北京市市长，成为北京市第一任民选的市长。
　　毛泽东对聂荣臻说，我们历来主张慎重初战，这次阅兵也是初战，开国第一次嘛，一定要搞好
　　1949年9月中旬，就在聂荣臻被任命为北平市市长后的几天，他又被各界公推为中华人民共和国成立庆祝大会筹备委员会主任。
　　阅兵指挥机构成立了，朱德任阅兵总司令，聂荣臻担任阅兵总指挥。下面还设立了阅兵指挥所，由阅兵副总指挥杨成武兼任指挥所主任。
　　《阅兵典礼方案》很快拟出，并经毛泽东、朱德、周恩来等中央领导审定通过。
　　毛泽东专门找聂荣臻谈话，他意味深长地对聂荣臻说：“我们历来主张慎重初战，这次阅兵也是初战，开国第一次嘛，一定要搞好。”
　　 聂荣臻当即表态：“请主席放心！我们一定把这次阅兵组织好！”
　　毛泽东的重托，令聂荣臻深感责任重大。因此，对阅兵的筹备和组织，事无巨细，他都非常认真。每项工作，他都作了周密的布置。
　　 聂荣臻从华北军区部队抽调了步兵、骑兵、坦克兵、炮兵各1个师参加阅兵，还抽调了空军、海军部队代表及民兵参加阅兵，1．6万余人的受阅部队先后集结完毕。
　　 聂荣臻想得很细，对各受阅方队如何组成，装甲车、坦克、汽车如何同步行进，万一有车辆出现故障时如何补救，飞机何时飞越天安门广场，晚上怎么放焰火等等，都作了周到细致的安排。
　　开国大典的日子一天天临近，阅兵准备工作顺利进行，但聂荣臻还是很着急。为了调动大家的积极性，保证阅兵圆满成功，他不时地鼓励参加受阅的官兵。
　　 聂荣臻还就开国大典时的防空问题作了重点部署。这也是他最为关注的一件事。
　　在解放战争即将取得全面胜利的时候，国民党空军的空袭也日益频繁起来。人民群众经常处于被空袭的危险和惊扰之中。针对这一情况，中央军委早在1948年8月9日，就提出了对城市要地实行“积极防空”的方针。1949年4月，聂荣臻兼任平津卫戍区防空司令员后，对防空工作一直抓得很紧。1949年8月15日，军委航空局根据中央军委的指示，在南苑机场组建了一支具有作战能力的飞行中队，担负保卫北平的防空任务。开国大典的时间定在10月1日下午3时，也是出于防空袭的需要。聂荣臻向参加大典的部队全体人员发出了一道命令，如遇空袭，要原地不动，天上下刀子也不能动，保持原队形。游行群众也事先被告知，如遇空袭不要乱跑，听指挥。

　  到9月30日，开国大典的各项准备工作全部就绪，可谓是“万事俱备，只等检阅”了。但是，聂荣臻还是一夜未眠，他一次又一次地检查准备情况，事无巨细地叮嘱注意事项，确保万无一失。
　　1949年10月1日，中华人民共和国开国大典在北京隆重举行。下午3时，毛泽东和其他领导人准时出现在整修一新的天安门城楼上。天安门广场顿时沸腾起来。
　　这时，在金水桥边一座临时搭起作为阅兵指挥台的高台上，阅兵总指挥聂荣臻用麦克风向大家喊道：“大家全体注意，不要喊！注意！注意！注意！今天是首都全体军民各界为庆祝中华人民共和国中央人民政府的成立举行大会。现在准备开会，请中央人民政府秘书长林伯渠同志宣布大会开始。”
　　广场上沸腾的人群很快静下来。
　　林伯渠宣布中华人民共和国成立大典正式开始。
　　毛泽东走到麦克风前，用他那浓重的湖南口音庄严宣布：“中华人民共和国中央人民政府已于本日成立了！”
　　当林伯渠宣布阅兵式开始时，在阅兵指挥台上的聂荣臻格外激动。
　　阅兵总司令朱德乘着敞篷汽车，从天安门中间的门洞出来，通过金水桥。
　　聂荣臻迎候在金水桥南边，看到朱德出来，赶忙走上前向朱德行军礼朗声道：“报告总司令，受阅部队准备完毕，请您检阅。”
　　立刻，军乐队奏起了《三大纪律八项注意》、《军队与老百姓》、《保卫胜利果实》等军乐曲。
　　聂荣臻随朱德登上了检阅车，陪同朱德出东三座门，沿着长安东街、东单广场，直到东交民巷，检阅了肃立受阅的陆、海、空三军部队。
　　 ……
　　开国大典按照预定的方案进行得很顺利，阅兵获得了圆满成功。