Da det vinteren 1914 var besluttet å opprette et Norsk Sjøfartsmuseum, stilte Norsk Folkemuseums direktør Hans Aall, som selv var medlem av det nye museets styre, lokaler til rådighet.
Sjøfartsmuseet fikk plass i 2. etasje i Folkemuseets utstillingsbygning Ridehuset. «Byværelsene» i Ridehuset var nettopp flyttet over til den nye museumsbygningen som hadde stått ferdig året før, og de gjenværende utstillingene var omarrangert.
Allerede 27. juni 1915 åpnet Sjøfartsmuseet utstilling i Ridehuset, «og det er blevet en meget vakker, interessant og instruktiv samling», skriver Aftenposten. «Det er meget morsomt. Der er montrer med skibsmodeller, som illustrerer udviklingen fra de tidligste tider. Mange af modellerne er rene kunstverker.»
Den offisielle åpningen var tre måneder senere, 24. september. Utstillingen omfattet nå modeller av Gjøa og Fram og akvareller av «fregatter, skonnerter og fuldriggede armerede koffardiskuder».
«Igaar åpnedes ute paa Norsk Folkemuseum en interssant Utstilling av Billeder og Modeller, illustrerende den norske Sjøfarts Utvikling gjennem de siste 200 Aar. Avdelingen bestyres av Hr. Ludv. Castberg, som her har nedlagt et betydelig Arbeide. Utstillingen fortjener det beste Besøk.» – Middagsavisen 28. juni 1915.
Utstillingen, som var plassert i Ridehuset, var begynnelsen på Norsk Sjøfartsmuseum.
I årene framover var Sjøfartsmuseet, sammen med Byavdelingen og «de gamle stuer», en av Norsk Folkemuseum hovedattraksjoner.
I 1929 flyttet Norsk Sjøfartsmuseum inn i en egen gjenoppført bygning – «Generalitetsgården» fra Dronningens gate 15 i Oslo – lokalisert mellom Norsk Folkemuseum og Vikingskiphuset i det området som var i ferd med å bli Folkemuseets «Gamleby».
Sjøfartsmuseets nye bygning ble åpnet av kong Haakon 7. mai 1929.
I Hans Aalls tid som direktør for Norsk Folkemuseum, var Norsk Sjøfartsmuseum ikke bare nærmeste nabo, men i realiteten bygningsmessig integrert i Gamlebyen. Sjøfart var derfor ikke noe Folkemuseet trengte dekke i egne samlinger eller utstillinger. Det var en del av publikumstilbudet, selv om det organisatorisk ikke var en del av museet.
Sommeren 1960 var Norsk Sjøfartsmuseums utstilling i Generalitetsgården åpen for publikum for siste gang. Museet flyttet nå til nye lokaler på Bygdøynes. Her hadde Båthallen åpnet i 1959.
I 2010 endret museet navn til Norsk Maritimt Museum og ble i 2015 konsolidert med Norsk Folkemuseum.