Perrancey-les-Vieux-Moulins liegt im Norden des Plateaus von Langres, etwa vier Kilometer westlich von Langres am Stausee Réservoir de la Mouche, der vom namengebenden Flüsschen Mouche gespeist wird. Umgeben wird Perrancey-les-Vieux-Moulins von den Nachbargemeinden Saint-Ciergues im Norden, Langres im Osten, Saints-Geosmes im Südosten, Noidant-le-Rocheux im Süden sowie Courcelles-en-Montagne im Westen.