Det lille stræde mellem Kongevejen og Nørregade har navn efter én af de nordtyske byer, som i middelalderen havde rettigheder til at drive handel, når der i eftersommeren blev holdt store sildemarkeder i Dragør.
Gaden fik dog først sit nuværende navn i 1930, da Dragør blev bedt om lave nye gadenavne. Mange af de tidligere navne var nemlig kopieret fra Københavnske gadenavne, og postvæsenet sendte derfor en del breve forkert.
Wismarstræde hed tidligere Naboløs, efter en lille gade ved Gammel Strand i København.
Oprindeligt førte gaden ud til byens nordlige grænse, og for enden lå nogle små haver.
Det er vanskeligt at give et bud på bebyggelsens alder, men flere af husene må være nyopført engang i 1600-tallet. Husene på den østlige side (nr. 3, 5 og 7) brændte dog i 1852, da der udbrød en større brand i den nordlige del af Dragør.