1911年10月10日，武昌起义爆发了，一场伟大的革命风暴席卷全国，不久扬州也宣告光复。在这股潮流中，他脱掉警察服，来到上海，参加正在准备北伐的学生军。1912年元旦，孙中山在南京宣誓就任中华民国临时大总统，学生军奉命来到南京，改编为陆军入伍生团，正式开始军事训练。不久，南北和议达成，南京临时政府取消，入伍生团被编入保定陆军军官学校。听到这个消息，张治中兴奋不已，他上学堂的愿望终于实现了。
在学校里，张治中除了规定的课程外，对德文特别感兴趣，他认为德国的陆军驰名世界，一个真正的陆军军人，必须懂得德文。此外，他也喜欢读古人或名人关于修养方面的书，如《王阳明全集》、《曾文正公家书》、《群学肄言》等。
1914年冬天，张治中从预备学校毕业。按照规定，到保定第八师入伍半年，然后正式升入保定陆军军官学校。进校后，他一心研究军事学，利用暑假遍读军事参考书籍，如《阵中要务令详解》、《作战纲要详解》等，同时也注重身体锻炼和人格修养。
两年后，张治中从陆军军官学校毕业。被分配到安徽军阀倪嗣冲的“安武军”去见习。这是一支腐败的旧军队，长官只知道赌博、打人，根本不懂军事。身居其间，张治中陷入极度的烦闷之中，他自己看书，或到营外散步，以此来消磨时光。