黄埔军校于一九二四年六月十六日正式开学。同年八月左右，黄埔一期的共产党员学生蒋先云与在粤的粤、桂、湘、滇各军军校的学生联系，酝酿“青年军人联合会”的组织，并向黄埔军校建议成立这个组织，意在以革命的黄埔学生，影响各军官学校的学生，以免成为各军在广东争夺地盘，各霸一方的罪恶工具。此建议，不仅为全体黄埔同学所赞同，并得到校长蒋中正的特许。蒋曾亲笔写了一篇发起这个组织的序言，说明成立青年军人联合会的革命意义。十月，青年军人联合会的组织已基本建立，加之黄埔二期共产党员学生周逸群、王一飞的积极活动，在大多数的青年军人中，树立了相当的威信。一九二五年一月间，就发展到了相当人数，成为较有力量的组织，能在广东的青年军人中起着领导作用了。

　　随之于二月一日上午，在广东大学召开青年军人联合会成立大会，会员约两千人，出席大会并讲话的国民党要员有：廖仲恺、胡汉民、邹鲁等。会后参加游行人数达五千人，旗帜蔽空，整齐严肃，实为从来未有，市民观看者，途为之塞，可谓盛况空前。

　　原由起于坚持反共的国民党元老谢持，谢持（1876－193 9）四川富顺人，早年加入同盟会，参加辛亥革命，1913年3月末宋教仁被刺后，谢至北京，谋炸袁世凯，事泄被捕，获释后避往日本。1917年起先后任孙中山大元帅府参议、代理秘书长、国民党特委委员、国民政府委员等职。

　　黄埔军校开学时，国民党元老谢持由上海来到广州，极力拉拢教授部王柏龄等以及学生贺衷寒、潘佑强、冷欣等。并煽动说：“共产党名虽与国民党合作，其实是想乘机篡夺国民党的党权，一朝得逞，所有国民党员，尤其是黄埔同学中的国民党员，将受到无情的迫害，而无立足的余地”等等，激起了上述诸人对共产党员同学的仇视。后耒又感到蒋先云、周逸群等在校内公开散发《向导》和宣传共产主义的刊物，而他们又是青年军人联合会的核心分子。就断定这是一个发展共产党组织的据点，从而决定采取以组织对付组织的行动。

　　1925年4月孙文主义学会成立后，经常与共产党员同学发生为主义之争论，矛盾不断升级，其最为突出的是在广州中山大学内互欧事件，彼此都受了伤。青年军人联合会与孙文主义学会在黄埔军校形成了两个对立的组织，在师生中两种思想和势力的内部斗争越演越烈。

　　一九二六年，蒋中正于中山舰事变之后，除向国民党中央执行委员会提出限制共产党的办法，和把在军队中任党政工作的共产党员一律清除出去之外，并以青年军人联合会和孙文主义学会有违亲爱精诚的校训，破坏整个同学的团结，下令一律撤销。决定成立黄埔同学会（是黄埔陆军军官学校同学会的简称）的组织，并派蒋先云、冷欣、贾伯涛、杨引之、余洒渡、曾扩情等为筹备员。五月中旬，在广州中山大学体育场召开成立大会，蒋中正任黄埔同学会会长，秘书曾扩情，监察干事胡静安，组织科长杨引之，宣传科长余洒渡，总务科长李默庵。

　　黄埔同学会规定，凡属黄埔军校学生，均为当然会员，由同学会负责登记考核之责。凡毕业同学的任免和升迁调补等等，均须根据同学会的登记考核耒决定。无论毕业与未毕业的同学，均须在同学会的监督指挥之下，效忠于国民党，奉行三民主义，绝对服从校长领导，不得有任其他的组织活动，尢其不准从事共产主义的宣传，如有违反应受严厉的处分，或以叛逆论处。这表明同学会不仅对所有同学有任用罢免之权，而且操有生杀予夺之权。

　　1983年在中共中央与邓小平的亲切关怀下，决定重新成立黄埔军校同学会。1984年6月16日，黄埔军校同学会在纪念母校60周年华诞之日宣告成立。李先念、徐向前、乌兰夫、习仲勋、杨静仁等领导同志出席了成立大会。

　　当年黄埔军校教授部副主任叶剑英元帅在贺词中祝愿广大同学“发扬黄埔精神，致力振兴中华”。全国政协主席邓颖超和聂荣臻元帅为大会题词。徐向前元帅在贺词中深盼校友、同仁“切记中山先生教导，发扬黄埔精神，惟发国家统一、民族强盛为己任，抛嫌释怨，携手合作，为统一祖国、振兴中华贡献余力，为中国革命和自己的历史增光添彩”。明确的指示和谆谆教诲都充分体现了他们对海内外黄埔同学的真挚爱护和殷切期望。

　　功勋卓著、德高望重的徐向前、聂荣臻二位元帅亲自领导黄埔军校同学会发展前进，并作了一系列重要指示。1990春节，两位元帅发表谈话指出：“和平奋斗，统一祖国，是黄埔师生历史使命”，“深切期望海峡两岸和旅居海外师生，焕发爱国、革命精神，同心戮力，为按照一国两制构想实现祖国统一大业，恪尽职责”。

　　过去20多年中，无论是黄埔的重大活动，还是重要接待工作，党和国家领导人都非常关心。1986年11月理事扩大会议期间，胡耀邦、彭真、万里、习仲勋、杨尚昆、胡启立、杨得志、余秋里、王震、杨静仁等同志曾在人民大会堂亲切接见与会全体同志，1990年5月，邓小平会见发从台湾来访的黄埔一期同学邓文仪，1991年4月，江泽民会见了台湾“中华黄埔四海同心会”谒陵访问团，1994年，当黄埔军校建校70周年暨黄埔军校同学会成立10周年之际，江泽民、刘华清亲笔题词，李鹏、李瑞环、胡锦涛等参加了纪念活动。这都体现了中央对黄埔军校师生及其同学会的重视。

　　黄埔同学会的会员包括：１９２４年后在黄埔成立的陆军军官学校、中央军事政治学校、中央陆军军官学校及其分校的学生；在大陆办的１至２３期的中央军校学生；在台湾办的２４期以后各期中央军校学生；冠以中央陆军军官学校的各种训练班的学生。符合上述规定的黄埔同学，自愿申请，经理事会同意，均可为会员。

　　首任会长徐向前，顾问聂荣臻。第二任会长侯镜如，第三任会长李默庵，第四任会长为李运昌，现任会长林上元。