1881年，清军管带段从德操演返营，正在榻上抽烟歇息，忽然有马弁来报，说有人求见，段从德不耐烦地挥手说:“不见。”马弁为难地说:“来人自称是你的侄子。”段从德一愣，心里想:“我这里哪来什么侄子呢?”对马弁说:“让他进来吧。”一会儿，一个瘦瘦小小的少年进了营房，一见段从德就跪下叫道:“叔叔，我可找到你了!”段从德忙上前扶起少年，一看之下，吃惊道:“孩子，你怎么找到这里的?从家乡来的?”少年点头说:“侄子从合肥走来，专门投奔叔叔。”段从德更加吃惊:“步行来的?从合肥到这里有2000多里呀!而且世道不宁，一路上兵荒马乱的……”少年仰头说:“不吃非常之苦，难为非常之人，侄子不怕吃苦的。”段从德大笑:“好!是我们段家的种!你就留下吧。”这个瘦小少年就是后来在中国掀起无数惊涛巨澜的段祺瑞，他那年才17岁。

1885年，清朝洋务派代表李鸿章创办北洋武备学堂。段祺瑞考入武备学堂炮科，成为其第一批学员。

一天，李鸿章视察武备学堂，考察了马科、步兵科演练后，下午再考察炮科，当时天色如晦，风雨大作，大海波涛汹涌，海上的活动靶船在惊涛中起伏不安，李鸿章却坐在山顶临时搭成的凉棚里，兴致勃勃地要看炮兵操练。一个管带面有难色地走到李鸿章的面前说:“中堂大人，这山顶风雨太大，您的身子骨……操练是否改期?”实际上，他是因为怕下面的学员因为天气原因而影响操练成绩，李鸿章不满地看了他一眼:“这点风雨，何足挂齿?让他们开始吧。”管带不敢再作声，喏喏而退。但是他担心的事终于发生了，几声炮响之后，靶船周围甚远的地方溅起了巨大的水花，没有打中!李鸿章的脸阴沉得像此时的天气。又是几炮，靶船依旧毫发无损。李鸿章“呼”的一声站起来，扔掉手上的望远镜，怒道:“朝廷大把银子扔到学堂，你们……”他转身就要离开。学堂的官员面无人色。正在这时，忽然传来一阵欢呼声:“打中了!打中了!”旁边有人递上望远镜，李鸿章举镜向海上望去，靶船上正在冒烟。接着，又是几声炮响，靶船被击得粉碎!李鸿章点点头，脸上有了一丝满意的笑容。他转头说:“刚才的炮手是谁，带他来见我。”

不一会儿，一个瘦小精悍的青年走到李鸿章面前，单膝点地。李鸿章问道：“你叫什么名字？”青年答道：“学生段祺瑞。”

“哪里人啊?”

“学生是合肥人。”

一听是同乡，李鸿章不由得对段祺瑞来了兴趣，再一问，知道段祺瑞的祖父和叔叔皆是淮军将领后，李鸿章更是对这个小伙子另眼相看。李鸿章靠组建淮军镇压太平军起家，因而他很有地域观念。他展颜问了段祺瑞几个军事方面的问题，段祺瑞一一作答。李鸿章非常满意，连说:“熟知军事，真是可堪造就，是一个可用之才啊!”让手下将段祺瑞的名字记下来。