早年的京剧伴奏，中，二胡的使用极少，个别剧目如《荡湖船》，其中唱的“闹五更”及小花脸的那段数板是用二胡伴奏的。那时，琴师不预备二胡，而是由唱《荡湖船》的旦角自己带二胡，跟包的在临唱前交给琴师，戏完了琴师再将二胡交跟包的。这就是过去京剧中少有的-二个二胡伴奏。

1923年在北京，梅兰芳先生排演《西施》一剧时，感到音乐伴奏单薄，就和王少卿先生一起商量增加乐器，当时，选用了很多乐器来试听，一效果都不满意。而用最普通的二胡（当时称苏胡）来试时，顿觉音色圆滑，京胡被其衬托之后，十分悦耳。因此就决定加用二胡，并选定由王少卿先生兼拉，在梅先生演出《西施》时，二胡加入了伴奏的行列。当时还不是有唱必加二胡，而是先加在二黄唱段和一些曲牌上，后来才广泛地加入了西皮、二黄的唱段伴奏之中。

当二胡伴着京胡首次出现在舞台上的时候，观众觉得很新鲜，但也有一些人听了不舒服，经过一段舞台实践之后，人们逐步地适应并承认了这一改革，二胡伴奏为人们熟悉和喜爱了。后来乐器制作者洪广元和琴师王少卿一起几次研究改进二胡，根据京剧胡琴的特点及演奏风格，创造出音色洪亮专用于京剧的京二胡，使京二胡与苏胡分开，从此京二胡在京剧乐队中占了重要的位置。