考姆兹的历史悠久。考姆兹与蒙古族的火不思同源,都是我国古代西北游牧民族人民创制的弹弦乐器,考姆兹即火不思的谐音。
相传西汉时期,王昭君嫁与匈奴呼韩邪单于为妻,胡人珍视王昭君的琵琶,仿制的新乐器又不相像,始有“浑不似”之名。宋代俞琰《席上腐谈》:“王昭君琵琶坏肆,胡人重造,而其形小,昭君笑曰:‘浑不似’,今讹为和必斯”。
1905年,在新疆吐鲁番招哈和屯发掘的唐代高昌古画中,有一儿童抱弹长颈勺形乐器的图像,与考姆兹较为相似。表明早在唐宋时期,考姆兹已在我国西北地区流行。