扣械案发生，各军事学校以及海军，感觉军人有团结以挽救时局之必要，因此有中国青年军人代表会的组织，扣械案解决后代表会仍继续进行。当时组织甚为简单，每一组织分子，选举代表数人，每一星期开一次会，开会时每一组织分子出席代表二人，开会时的主席及会的召集，由各组织分子代表轮流值星。嗣后感觉到这种组织缺点太多：
　　(一)系一个代表的集团，而不是有实际组织的团体；
　　(二)值星制于团体的进行，多不方便，上星期的工作与下星期的工作，没有连续；
　　(三)因上二种关系，只有会开，没有工作；
　　(四)组织的分子以军事学校或军事机关为单位，不以军人个人为单位，使个人无从加入。
　　有如上的缺点，于是全体代表会议议决将代表会改组织为联合会，草定临时简章，即照新简章组织。一月二十五日开联合会代表大会，因各学校代表尚未选举完竣，不能产生临时执行委员会，遂由到会各代表推举蒋先云、曾扩情、贺震寒(贺震寒此人不详,疑是贺衷寒之误)、何畏能四人组织筹备会。本月卅日因各处代表皆已选出，由筹备会召集联合会第一次代表大会，当即组织临时执行委员会。二月一日在广东大学开成立大会，联合会于是向外正式宣布成立。二月一日下午开第二次代表大会决议由临时执行委员会起草总章。二月八日第三次代表大会，通过总章。正式执行委员会，于是日成立。
　　已加入的分子：陆军军官学校、粤军讲武学校、桂军军官学校、滇军干部学校，铁甲车队、福安兵舰、舞风兵舰、飞鹰兵舰、军用飞机学校。