1920年8月去法國，後在比利時King Saloon勞動大學兼職，在希洛瓦工作。
劉伯堅壹直是1921年7月“抵制中法借貸”運動和同年9月“中法留學裏昂”鬥爭的積極參與者和組織者。1930年下半年，劉伯堅回國，從福建調到江西，在中央蘇區工作，任中央軍委秘書長。
1931年1月，在江西瑞金召開的全國工農兵代表大會上，當選為中華蘇維埃共和國中央執行委員會委員，任蘇區工農紅軍學校政治部主任。
1931 12 14“寧都兵保”後，劉伯堅任第五軍政治部主任。
1935年3月4日上午，仁風地區戰鬥中，因敵眾我寡，身中數槍，不幸被俘。
1935三月初，劉伯堅在戰鬥中左腿中彈，不幸被捕。3月21日，劉伯堅在江西大余縣金蓮山被敵人殺死，壯烈犧牲，時年40歲。