Den første bygningen på Karljohansvern skal ha vært en mindre smie til det nye verftet. Essesmidd jern eller smijern har tradisjonelt også blitt brukt også til bygningsformål, vanligvis som forsterkende element, for eksempel i murankere i større murvegger. Slike elementer finnes også på Karljohansvern. Et eksempel på bruk av smijern er jernbåndene som har vært brukt som strammere rundt kalkovnene på Møringa. Det er naturlig å regne med at verftssmien på Marinestasjonen også utførte oppdrag i forbindelse med oppføring av bygninger. Smijern var et forholdsvis kostbart materiale, som ble brukt der høy elastisitet, formbarhet og resistens var påkrevd. Luftforurensing, høy temperatur, nærvær av salt i tillegg til generell fuktighet påskynder kan føre til korrosjon av smijern ved at en rustprosess igangsettes. Korrosjonen kan forårsake problemer, særlig i sammensetningspunker. Stål og jern ekspanderer kraftig ved korrosjon noe som bl.a. kan føre til konstruktive svekkelser i visse typer konstruksjoner. På Karljohansvern er det få slike konstruksjoner med unntak av den ekstyske bebyggelsen (armert betong). Hovedparten av denne er imidlertid ikke tatt med i verneplanen.
To bygninger utgjør særegne unntak i forhold til den øvrige bygningsmassen. Det gjelder et båtskur fra 1898 på Verftsområdet og et ammunisjonsmagasin ved Mastedammen, oppført under 2. verdenskrig (0313). Begge er oppført i stålkonstruksjoner og kledd utvendig med bølgeblikk. Det eldste, tidligere Skur for 1. klasses Torpedobaade, oppført i jernstenderverk paa pillarer representerer en epokegjørende byggemåte som fikk gjennombrudd på Verdensutstillingen i Paris i 1899 med byggingen av Eiffeltårnet. Byggemåten ble raskt tatt i bruk av Forsvaret og fikk stor betydning også for industri- og jernbaneutbygging. På Mellomøya finnes også et ammunisjonsmagasin ved Mastedammen (0313) som ble oppført under 2. verdenskrig av samme materialer. Som vist over er bølgeblikk også blitt tatt i bruk som brannhemmende kledning på trekonstruksjoner.