历史上最早的铁鹞子部队实际上起源于辽国的契丹人。【辽史】中有记载，辽太宗耶律德光的心腹部队中就包括两支铁鹞子部队。在公元937-946年期间，契丹统军副使高模翰曾兼任这两支部队的指挥。此外，辽将萧阳阿也曾担任过铁鹞子详稳。
在公元945年3月与后晋军队的交战中，辽国轻骑兵试图冲破以鹿角构筑的阵地，但被守军火力所阻。于是，装备重甲的铁鹞子部队下马，试图拔除鹿角并使用短兵器攻击晋军。尽管最终被后晋守军击溃，但这场战斗充分展示了铁鹞子和普通骑兵在将领眼中的不同。
随着党项人的崛起，新的西夏也开始扩充其骑兵部队。但由于缺乏重装设备，他们经常在与配有重甲的吐蕃势力的交战中遭遇挫败。西夏的创始人拓跋继迁甚至在混战中受到了致命伤害。然而，随着拓跋元昊逐渐掌握大局，西夏人也开始组建自己的铁鹞子部队。虽然数量有限，仅约3000人，但他们对阵宋军时表现出了强大的战斗力。
1082年9月，号称30万的西夏军队围攻银川城，以铁鹞子和山地步兵实施轮番猛攻。宋军守将徐禧既不听部将实施半渡而击的建议，又让部队在城外与敌军对峙。结果，铁鹞子发起的冲锋击溃了宋军，城垣被攻破，守军损失惨重。
然而，关于西夏铁鹞子的记载常常因古代文献的简略而引起过度解读。例如，【辽史•西夏】中提到铁鹞子用钩索绞联，士兵虽死却不会掉落马下。这往往让人误以为是将几匹铁骑互相绑定成连环马。但实际上，这只是指用铁索将骑士固定在马背上。从战术角度来看，将几匹战马连接起来反而会束缚骑士的行动。
针对西夏铁鹞子的特点，有人提出了使用斩马刀的破解战术。即训练精锐士兵在混战中用长刀劈砍没有马甲保护的腿部和腹部。
这表明宋军既没有能与之抗衡的骑兵，也对大部分普通步兵没有信心。然而，这种建议后来被许多宋军将领采纳。
