マイクロSDカードは、ゴムの蓋を閉じることではじめて完全に挿入される、という理解で正しいでしょうか。ゴムの蓋を閉じれば音楽が再生できますが、ゴム蓋なしだと完全に挿入できません。

ゴムの蓋を閉じても閉じなくても完全に挿入することができます。
このゴムの蓋は埃、水などを中に入らないように設置されておりました。
ゴム蓋なしだと完全に挿入できないのは、お使いのSDカードは奥まで差し込んでんないかと考えられます。
一度奥まで差し込んでください。