Ce toponyme a été adopté dans le cadre de l'harmonisation des noms de rues, rendue nécessaire par le regroupement municipal du 1er janvier 2002.

Au tournant du 20e siècle, Joseph Vézina ouvre une carrière à Sillery, près de l'actuelle rue Arthur-Buies. Gérée plus tard par Jim Corrigan, la carrière Vézina sera exploitée pendant plus de 50 ans. Elle fournira la pierre des piliers du pont de Québec, des nouvelles ailes du Château Frontenac et de la Citadelle de Québec. La rue des Rocs et la rue de la Grésière, entre autres, rappellent aussi l'ancienne exploitation.

Anciens toponymes
La rue de la Carrière-Vézina a d'abord porté le nom d'avenue La Carrière, attribué vers 1963, puis celui de rue de la Carrière, adopté le 7 mars 1994. Il rappelait l'existence de la carrière Vézina, ouverte au tournant du 20e siècle. Le sous-sol du plateau, dans l'arrondissement de Sainte–Foy–Sillery–Cap-Rouge, est composé de grès et de schistes rouges dits « de Sillery », nom que leur donne le géologue Logan en 1855. Des carrières de grès y sont mises en exploitation dès le Régime français. En plus de servir au pavage des chemins, la pierre qu'on y extrait sera utilisée notamment pour la construction de la Citadelle de Québec et des fondations du Château Frontenac, au 19e siècle.