劍魚體短壯，尾柄細，平扁，每側具一發達的中央隆起脊，無其它小隆起脊。吻部向前延長為扁而尖銳之劍狀突出。眼大。齒細小，隨著成長而逐漸消失，成魚則不具頜齒。無鰓耙。第一背鰭基底短，與第二背鰭分離甚遠；胸鰭低位；無腹鰭；尾鰭深分叉而有力，尾柄末端上下具深凹。體背及體側呈黑褐色，體腹側呈淡褐色。第一背鰭鰭膜暗褐色，餘鰭褐色或暗褐色。
劍魚最大身長約4.5米，最大重量約650千克，雌性通常比雄性更大。在太平洋，發現最大的劍魚，測量身長平均為1.2-1.9m。大西洋的劍魚重量能達到320公斤，但在地中海成年劍魚的體重通常不到230公斤。