최옥삼은 ‘풍각쟁이’ 집안 내력으로 인해 음악적 재능을 타고났으며, 성장하면서 집 근처에 있던 장흥 신청을 출입하면서 다양한 음악 수련을 받았다. 최옥삼은 다양한 음악적 재주를 갖추고 있었기 때문에 쉽게 가야금을 배울 수 있었다. 그는 형에게 피리를 익히고, 지역사회 양성소 선생님들에게 소리와 가야금을 배워 14세 무렵 가야금과 소리에 상당한 실력을 갖추었다. 그리고 18∼22세 전후로 김창조의 제자 정운용과 한성기에게서 본격적으로 가야금을 배웠다. 이후 최옥삼류로 불리는 독자적인 가야금 산조를 완성했다. 최옥삼은 젊은 시절부터 자신의 음악적 재능을 후배와 제자들에게 전수하였다. 최옥삼은 1925년 21세 되던 해에 스승 정운용의 소개로 목포 음악양성소에서 교원으로 활동하였다. 최옥삼에게 산조를 배운 것으로 알려진 사람은 함동정월과 김녹주 등이다. 최옥삼은 1937년부터 원산 음악양성소에서, 1942년부터는 함흥 음악양성소에서 교원으로 있으면서, 젓대･아쟁･북･장고 등의 연주법을 연마한 이후, 민족음악양성소가 해산되자, 강원도 통천에 이주하여 농사를 지으면서 가야금 산조 한바탕과 단소 산조 청성곡 등 수많은 민족기악곡을 창작하였다. 해방 초기 평양에 소환되어 최승희 무용연구소의 연주가로 있으면서 모든 악기를 훌륭히 연주하여 대절찬을 받았다. 1950년 6월 25일 전쟁 시기 문화공작단 성원으로 군산, 광주, 목포 등지에서 연주활동을 적극적으로 펼쳤다. 1952년 이후 음악대학 민족음악학부 겸임교원으로 교사수업을 하면서 후배를 양성하였다. 북한에서의 최옥삼 음악활동은 가야금곡과 대금곡 그리고 무용곡 작곡을 중심으로 이루어졌으며, 최승희무용연구소에서 활동하기도 했다. 그는 해방 후부터 평양 국립무용극장의 연주가로 활동하면서 헝가리, 중국, 구소련, 몽고 등을 다니며 다양한 공연활동을 펼쳤다.