直到袁世凯的“小站练兵”后，那些军校毕业生才开始得到重用。当时袁世凯请当时任天津武备学堂总办的荫昌推荐人才，荫昌很自然的便想到了段祺瑞，并将他推荐到袁世凯的门下。袁世凯的新建陆军是一支拥有步兵、骑兵、炮兵、工程兵等多兵种的新式部队，其中炮兵就有近两千人，段祺瑞随后被委任为炮队统带，并得到袁世凯的极大重视。当时段祺瑞带的这支炮队有速射炮、重炮等六十门，战马近五百匹，这也是中国近代历史上第一支正规化的炮兵部队，段祺瑞也可以说的中国第一任炮兵司令
随着袁世凯的不断升迁，段祺瑞也跟着沾光，陆续做到了北洋六镇的统制之职。在清朝覆灭后，段祺瑞做过几任陆军总长，后来因为反对袁世凯称帝而隐居西山。袁世凯死前，命人将段祺瑞找来并将国事托付给他，段祺瑞也由此做上了民国的内阁总理，成为当时最重要的政治人物。
段祺瑞的为人一向古板严肃，不苟言笑，给人的印象是不太好打交道。他平时的生活也是很有规律，一年三百六十五天基本没有什么变化。一般情况下，他都是在家吃早饭，随后上书房看公事；看完公事后去衙门，中午再回来吃饭。
吃过中饭后，老段一般会在内客厅睡个中觉，然后有客的时候会客，无客的时候就与棋手们下下围棋（后来加入日本籍的国手吴清源，他小的时候便经常陪老段下棋，老段会给棋手们每月开工资），或者找一些诗人搞搞诗会，当时王揖唐、梁鸿志等人便是段府的常客。晚饭之后，老段照例要打一会牌（麻将）。
段祺瑞非常喜欢下围棋，当时他还特意养了一批棋手，每月发给工资，以陪他下棋。据说，那些棋手和段祺瑞下棋时都十分识相，既不能赢段祺瑞，因为老段自尊心很强，输了他会很不高兴；但也不能多输，因为多输的话，会让段祺瑞看不起。
据称，有一次段祺瑞和儿子段宏业下棋，棋到终盘，段祺瑞大负，气得他跳起脚来，把棋盘掀翻，并怒斥段宏业道：“你这小子，一无所能，就知道玩这个，你以后有什么出息？”段宏业被斥后，只得诺诺而退（想必儿子输给了他，段祺瑞又会笑骂：“你这小子，连个棋都下不好，你以后还能干什么？”）。段宏业是到段祺瑞的大儿子，平时最喜欢吃喝玩乐，素无大志，他在外面一向是花天酒地，唯独见了老段就像是老鼠见了猫，大气也不敢出一声，这不，赢了棋还被老段斥责一顿，他屁也不敢放一个。
唯独有个小棋手却不畏惧段祺瑞，这就是后来成为著名棋手的吴清源。吴清源做段府的棋手时年纪还小，也最受段祺瑞的喜爱。他在和老段下棋的时候到是毫不客气，俩人经常能下个旗鼓相当，但随着吴清源水平的不断提高，段祺瑞和他对弈往往输多赢少，后来也就不再和他下了。吴清源后来入了日本籍，成为日本围棋界的一流高手。
段祺瑞脾气大，治家严，手下的人都战战兢兢，不敢犯错，特别是不敢向来宾索取门包。按前清的规矩，一般大官的门房都有一个陋规，那就是收取门包，否则就进不了门。段祺瑞大概吃过这个“门包”的亏，因而最恨别人收门包，他要是听说谁收门包，还真能把人拉出去枪毙喽。
按中国人的习惯，过年过节的，终究要礼尚往来，而地方上的官员来京办事，也一般会给重要的京官送点礼，这个规矩，唯独到了老段这里行不通。每逢有人将礼物送到段公馆，门房都是将之放在内客厅门口的条案上，等段祺瑞亲自过目后定夺。段祺瑞每次路过时，总是仔细的看了又看，最后挑一两件最不值钱的留下，其余的全部让人送回。
有一次，江苏督军齐燮元给段祺瑞送了一个精美绝伦的围屏，围屏上镶有各种宝石，五颜六色，非常漂亮。段家的人喜欢得不得了，晚上还偷偷的起来观看。但第二天早上，段祺瑞便令人送回。张作霖有一次给段祺瑞送了一些东北的特产，如江鱼、黄羊等，在其副官的一再恳求下，段祺瑞才手下两条江鱼，这已经是非常大的面子了。唯独有一次冯玉祥给他送了一个大南瓜，老段倒是很中意，没有送回。