Ancien chef-lieu du bailliage (En France, sous l’Ancien Régime, le terme de « bailliage » désignait à la fois une entité territoriale (circonscription administrative, financière et judiciaire) et la charge d’officier de bailli qui y était liée.), Marckolsheim serait situé sur un site où une ville existait à l’époque romaine. La présence de tombes mérovingiennes atteste de la présence d’une civilisation du lieu. Le village était d’abord la propriété de la famille des Habsbourg qui le cédèrent en 1294 à l’évêché de Strasbourg moyennant 400 marcs d’argent. En 1299, l’empereur Albrecht de Habsbourg (ou Albert Ier) accorda à la cité le statut de ville dont jouissait alors aussi Schlestadt (Sélestat). Des remparts furent construits du temps de l’empereur Louis V de Bavière et, vers la même époque, l’évêque Berthold II y construisit un château qui fut pris en 1444 par les troupes du dauphin et en 1632 par les Impériaux. Le 1er septembre 1939, au déclenchement de la Seconde Guerre mondiale, la population civile de Marckolsheim fut évacuée dans le Périgord noir, au Bugue, où elle resta jusqu’en octobre 1941. Lors de l’attaque allemande en juin 1940, la ville fut en partie détruite.

La cité paysanne de Marckolsheim est l’un des rares exemples subsistants de l’urbanisme nazi, le seul de ce type en France.On y trouve trois types de bâtiments : de grandes fermes héréditaires destinées à être transmises de génération en génération sur des critères raciaux, politiques et de capacité de production agricole, des fermes plus petites destinées à des paysans locataires, et de petites maisons pour les ouvriers employés par les fermiers. La hiérarchie sociale du Reich s’inscrit ainsi dans la pierre: la ville entière, détruire à 80 % lors des combats de 1940, devait être reconstruite sur ce modèle. Seule une partie du projet a été réalisé. Les 14 maisons de l’ensemble ont été classées monument historique en 2012.

Le stadtgraben (« fossé de la ville ») est le vestige des fortifications de Marckolsheim, édifiées à partir de 1330. On entrait dans la ville grâce à deux portes surmontées d’une tour – appelées tours-porches : la porte de Strasbourg au nord et la porte de Brisach au sud. Des vestiges de la porte nord sont encore visibles sur le pont enjambant le fossé. Les murs sont en partie détruits en 1637 et les fortifications sont complètement rasées vers 1835.