明清两代，老北京玉器名闻遐迩，成为全国的加工、贸易中心，影响达于海外。北京玉器业的崛起，与蒙古军团横扫欧亚息息相关。
1219年，蒙古大军攻克中亚重镇讹答刺，“内堡和城池被夷为平川”，但“那些刀下余生的庶民和工匠，蒙古人把他们掳掠而去，或者在军中服役，或者从事他们的手艺”。蒙古军队攻克不花刺后，许多人“以佃巧手艺入附，徙置和林”，而攻克玉龙杰赤城后，他们“令技师工匠别聚一所，其从之者，遣送蒙古，皆得免死”，蒙古军“将居民一下子全部驱到野外，从他们中间将十万左右的工匠分出来，（送）到东方去”。南宋灭亡后，又“籍江南民为工匠凡三十万户”，从中挑出十万一千户手艺人入编。
对手工艺匠人高度重视，不惜一切搜罗能工巧匠，让中国北方手工业取得长足进步，形成了诸多重镇，其中哈剌和林（初期的首都）最有代表性，“从契丹往这里送来的工匠，从伊斯兰各地也同样送来匠人……他们在一个短时期内使它成为一座城市”。这里不仅集中了中亚、南宋的工匠，甚至还有巴黎的金匠，他们的精湛技艺令当时在和林的欧洲使者为之倾倒，而江南技艺之人更是被直接称为“巧儿”。
北京玉器业的崛起还与政治有关，随着政治中心转向大都，北京的玉器业自然成了全国的领头羊，惠及后世。
老北京珠宝玉器行又称红货行，以别于经营黄金白银珠宝的黄白货行。在清代，北京的玉器市场主要在两处，一是前门外廊坊二条玉器街，一是花市东大街一带。前者主要服务于达官贵人，品质较高，后者主要服务于各地商人，款式更多样，规模也更大，而且有加工能力。
一般认为，花市东大街一带是老北京玉器行的精华所在，即所谓“青山居”。青山居是黄酒馆，与对面清茶馆是玉商首选的洽谈生意场所，后因往来人员过多，变成实际意义上的玉石市场。而附近的花市上二、三、四条胡同内则有许多“内局”，没有门脸，现场加工，全靠手艺吃饭。由于技艺超群，高丽、暹罗等地商人亦来采购。
在老北京玉器行中，回民占70%以上，其中许多是中亚匠人的后裔，此外他们善于经商，且洁身自好。传统玉器行收入较高，行动自由，自我管理不严，则很容易沉浸在风月场中，败光资产。此外经营玉器行需要较多资金，彼此联系紧密，可以集腋成裘，迅速发展。
虽然老北京玉器行繁荣了百余年，但它始终建立在手工作坊的基础上，靠压榨人力与手艺获取增长，从而制约了整体的发展规模，而从业人员亦颇辛苦，所谓“上辈子打爹骂娘，这辈子罚作玉器行”，别的行业学徒3年，玉器行要学6年，由于长时间操作，很多人落下残疾，只能被扫地出门、冻饿而死。
