樞院從太祖皇帝在時就設立了，最初只是掌管機要文書的部門。
后因皇帝重文抑武，想要削弱地方武將與兵部的掣肘，逐步扶持樞院接管軍機要務，包括人事權、招募權、調權等。
到先帝時，樞院已經取代了兵部主管軍事機構，與中書門下并稱“二府”，可見其地位之顯赫。