相传在五代末期，赵匡胤因未得志而穷困潦倒流落长安（今西安）时，身上只剩下两块干馍，难以下咽。他恳求一家羊肉铺的店主给一碗羊肉汤，顺手把馍掰碎泡在汤里，馍也软，汤也香，异常可口。赵匡胤后来当了宋代开国皇帝，仍念念不忘那一顿美餐，又去那家羊肉铺，让人如法炮制。他食后大加赞赏。于是，皇帝吃羊肉泡馍的消息不胫而走，很快风靡整个长安。自此，羊肉泡馍就成了长安的名食。
古时候，贩夫走卒、工匠农人，吃不起馆子便自带干粮，只须两个铜板买碗羊肉汤，把馍一泡，就吃得满意。这羊肉泡，可以说是下层劳动者的美食。对羊肉泡馍，宋苏东坡曾有‘陇馔有熊腊，秦烹唯羊羹’的赞美诗句。