La rue Mont-Carmel conduit au parc du Cavalier-du-Moulin qui occupe le sommet d'une colline appelée autrefois le Mont-Carmel. C'est le gouverneur Charles Huault de Montmagny qui, avant 1640, donne ce nom à cette élévation rocheuse. Or Montmagny appartient à l'ordre de Malte créé au 12e siècle – sous le nom des Hospitaliers de Saint-Jean-de-Jérusalem  – dans le but de prodiguer des soins aux pèlerins qui se rendent en Palestine, notamment au mont Carmel, ce promontoire rocheux du littoral israélien qui est le lieu d'origine de l'ordre de Notre-Dame-du-Mont-Carmel.

Anciens toponymes
La rue Mont-Carmel a déjà été connue sous les noms de rue du Mont Carmel et chemin du Mont-Carmel.