La première mention de Marckolsheim date de 770. Son nom vient sans doute du nom « Markwolf » -littéralement « le loup de la frontière » - suivi de « heim » désignant une habitation, un hameau. Il s’agirait donc de la demeure de « Markwolf ». Le loup représenté sur les armoiries de la ville depuis 1358 au moins, fait référence à l’importante présence de l’espèce dans la région. A partir de 1294 et jusqu’à la Révolution en 1789, Marckolsheim appartient à l’évêché de Strasbourg, ce qui explique sa confession traditionnellement catholique. La ville est souvent touchée par les conflits. Lors de la guerre de Trente Ans, dans la première moitié du XIIe siècle, elle est bombardée, ses remparts sont en partie détruits, les habitations sont pillées, la nourriture se fait rare et la quasi-totalité des habitants fuit vers Strasbourg encore protégée par ses murs. En 1648, avec le traité de Westphalie, une partie de l’Alsace devient française, en particulier le sud de la région. Marckolsheim se remet difficilement de cette guerre et ne connaît un essor considérable qu’à partir du XIXe siècle. Sa population augmente rapidement et de nombreux bâtiments sont construits ou rénovés, notamment les écoles et le tribunal. Pendant la guerre de 1870, Marckolsheim ne connaît pas directement les affrontements mais doit contribuer à l’effort de guerre de la Prusse et devient allemande en 1871. Un certain nombre d’habitants quitte les lieux pour s’installer dans les territoires français. Au cours de l’annexion, les Allemands dotent Marckolsheim d’une ligne téléphonique, de l’électricité, de l’accès au chemin de fer. Cependant, c’est avec soulagement que les Marckolsheimois accueillent la victoire française de 1918. Le 1er septembre 1939, l’Allemagne, sous le commandement d’Hitler, envahit la Pologne. Les habitants de Marckolsheim doivent quitter la ville le jour même et sont dirigés vers Ribeauvillé. De là, ils sont évacués en Dordogne, dans la commune du Bugue et ses environs. Certains restent en Alsace dans des zones non évacuées. Le 15 juin 1940, la ville est gravement endommagée suite à un bombardement intensif. Les soldats allemands viennent à bout du 42e RIF (Régiment d’Infanterie de Forteresse). L’Alsace-Moselle est annexée le 20 juin et l’armistice est signé deux jours plus tard. A leur retour à Marckolsheim, de nombreux habitants découvrent qu’ils ont perdu leur maison. Ceux-ci sont logés dans un quartier provisoire appelé Siedlung. Pendant plusieurs années, les Marckolsheimois vivent tant bien que mal sous l’autorité allemande. En 1945, la ville est à nouveau touchée par des bombardements, alliés cette fois, et c’est avec soulagement que les habitants accueillent la libération. Le musée mémorial de la ligne Maginot est créé en 1971, dans la casemate 35/3. La période d’après-guerre est marquée par un important programme de reconstruction du centre-ville puis par l’aménagement du Grand Canal d’Alsace et de l’usine hydroélectrique. Entre 1958 et 1968, le chantier attire des ouvriers et leur famille, doublant quasiment la population de la ville.