Mersuay fut donné en gage par le comte palatin Othon III à Aymon d'Annegray. Les enfants d'Aymon d'Annegray se désistèrent en 1256 de leurs prétentions sur le village et tinrent quitte le comte Hugues et la comtesse Alix de tous dommages et intérêts à ce sujet. Jean de Bourgogne recueillit Mersuay dans l'héritage de ses parents. Puis en 1479, le village appartint avec toutes ses dépendances à Jean de Neufchâtel, seigneur de Montaigu. Il les donna cette même année à l'abbaye de Faverney avec tout ce qu'il y avait en dîmes et tailles pour la création d'une messe quotidienne (qui se voulait perpétuelle) dans l'église abbatiale. Il est probable que la famille arborant le nom de Mersuay y possédait un fief relevant de la famille Montaigu. Henri de Mersuay y vivait en 1407; Marguerite de l'Isle, veuve de Huguenin de Mersuay, y vivait en 1453; Jeanne de Mont-Simon, veuve de Guillaume de Mersuay, y a également vécu en 1501.

La seigneurie appartint par la suite en 1730 à Antoine Maignien et en 1789 à Claude-Pierre Maignien. Marie Gabrielle Maignien (fille du dernier nommé) épousa Antoine de Coucy. De cette union naquit Eugénie de Coucy future épouse du maréchal Oudinot. À partir de 1789, à la révolution, le lien d'appartenance de la commune fut le bailliage de Vesoul et le décanat de Luxeuil. En 1790, cela passa au district de Vesoul, canton de Faverney. En 1792, 28 habitants de Mersuay partirent défendre le territoire national. 21 périrent à la suite de cet engagement. Cette période verra se succéder de multiples réquisitions de tous produits pour la récente armée républicaine (en 1793, les châteaux, les bois et les chevaux demeuraient ce qui était le plus recherché). Des privations de vaches et de veaux -une vache étant à l'époque estimée à 67 francs-, de foin, d'avoine, de blé, d'eau de vie, de vin, de vinaigre auront lieu à la fin du Premier Empire. Tout ceci devait être conduit à Vesoul ou à Belfort afin de soutenir l'effort de guerre. En juillet 1815, les troupes autrichiennes sont à Vesoul.

La commune, dans la seconde partie du 19^e S, cherche activité et travail pour les moins fortunés. En 1846, du pain est distribué chaque semaine à ce type de population. La commune vota l'année suivante une dotation de 2 000 francs pour ces mêmes indigents. Une commission spécialement constituée pour pallier ce problème achète du grain et leur distribue. En 1854, la commune connait un épisode de choléra. En 1860, la première ligne de chemin de fer traverse la commune (voir chapitre chemin de fer). Six ans plus tard, le corps des sapeurs-pompiers du village est créé.

La guerre avec la Prusse en 1870 pousse le village à mettre en place un emprunt pour soutenir l'effort de guerre. 55 habitants sont réquisitionnés pour les combats. La même année, le département est occupé par l'armée prussienne. Un incendie de grande importance mettra à la rue 07 familles du village en 1873, ce qui obligera la commune à prendre en charge les dépenses de ces personnes tombées dans le plus total dénuement.

Les deux guerres mondiales ont touché le village. En 1914-1918, 21 natifs du village sont décédés des suites du conflit. En 1939-1945, deux civils sont morts à la Libération.

En juillet 2009 débutent les travaux de restauration de La Maison de Mersuay, grande bâtisse seigneuriale (1650-1719) qui sera reconvertie en maison d'hôtes et galerie d'art «La Prédelle» par Benoît Delescluse et son épouse Madeleine, peintre et galériste, installés jusqu'à cette date à Besançon.

Le village a reçu le label Villes et Villages Fleuris avec 3 fleurs.

L’église a été construite construite au 18^e et achevé au 19^e S.