Historia Morii sięga Lat Dwóch Drzew. Wtedy to jeden z praojców krasnoludów imieniem Durin Nieśmiertelny natrafił na górskie jezioro, w którego toni ujrzał dookoła swojego odbicia koronę; ochrzcił je mianem Jeziora Zwierciadlanego i obrał to miejsce na siedzibę swojego rodu. Khazad-dûm okazał się zasobny w klejnoty i złoża metali, ale największym jego skarbem był podobny z wyglądu do srebra mithril. Początkowo miasto było otwarte jedynie na wschodnią stronę gór, a tutejsi krasnoludowie prowadzili handel głównie z pobratymcami ze wschodu i północy. Dopiero na przełomie pierwszego i drugiego tysiąclecia Drugiej Ery Noldorowie poprowadzili stały szlak do miasta z Eregionu, a krasnoludowie wykuli w ścianie gór Zachodnią Bramę, stworzoną z pomocą elfów i najczęściej szeroko otwartą na znak gościnności.

Do rozwoju Khazad-dûm przyczynili się także mieszkańcy zniszczonych podczas upadku Beleriandu starych krasnoludzkich twierdz Belegost i Nogrod w Górach Błękitnych, zasilający populację miasta w początkach Drugiej Ery.

W 1695 r. Drugiej Ery Celebrimbor, twórca Pierścieni Władzy, ukrył swoje dzieła przed Sauronem, wywołując tym samym wojnę pomiędzy Noldorami a Władcą Pierścieni. Konflikt zakończył się śmiercią Celebrimbora i zrujnowaniem Eregionu, a sam Sauron wszedł w posiadanie (obok dziewięciu pierścieni ludzi) siedmiu pierścieni krasnoludów, które pod koniec drugiego tysiąclecia Drugiej Ery ofiarował ojcom wszystkich krasnoludzkich rodów. Według wierzeń krasnoludów Durin III, władca Khazad-dûm wspierający elfów podczas wojny, otrzymał jednak swój pierścień nie za pośrednictwem Saurona, a bezpośrednio od kowali elfów (jakkolwiek nadal podlegał on jego złym wpływom). Bramy samego miasta zostały w porę zamknięte przed armiami Mordoru i nie ucierpiało ono podczas konfliktu.

Podczas wojny Ostatniego Sojuszu krasnoludowie z Morii pod przywództwem króla Durina IV walczyli po stronie elfów i ludzi z Númenoru.

W Trzeciej Erze populacja miasta nadal była znaczna, jakkolwiek nieustannie malała. Oprócz tego mieszkańcy w poszukiwaniu mithrilu drążyli ziemię coraz głębiej – na własną zgubę. W 1980 r. Trzeciej Ery wyzwolili przyczajonego od końca Pierwszej Ery pod korzeniami Caradhrasu Balroga. Balrog zabił króla Durina VI (odtąd krasnoludowie wspominali o nim jako o Zgubie Durina) oraz jego syna Náina I i po trwającej jeden rok wojnie przepędził wszystkich mieszkańców miasta. Pierścień władców Khazad-dûm ocalał jednak i pozostał w posiadaniu potomków królewskiej linii na wygnaniu. W ciągu następnych stuleci spustoszona Moria została zamieszkana przez gobliny, orki, trolle i inne siły z czeluści świata. W zbiorniku wodnym utworzonym przez zatamowane wody Sirannonu osiedlił się także strzegący Zachodniej Bramy Czatownik. Obie te inwazje, jak również wcześniejsze przebudzenie Balroga, przypisywano woli powracającego do potęgi Saurona.

Nieszczęścia prześladowały krasnoludów także poza Morią i w 2790 r. Trzeciej Ery Thrór, spadkobierca linii Durina, oddawszy uprzednio swój pierścień synowi, w zahaczającej o szaleństwo desperacji wkroczył samotnie do miasta. Thrór został zabity przez przywódcę goblinów zamieszkujących w podziemiach, lecz wieść o śmierci spadkobiercy rodu Durina wywołała płomień zemsty wśród jego pobratymców. W 2799 r. Trzeciej Ery, po trzech latach zbrojeń i sześciu latach zaciętej wojny, krasnoludowie zgromadziwszy wielkie siły stanęli do ostatecznej bitwy z goblinami w rozciągającej się przed Wschodnią Bramą Morii dolinie Azanulbizar. Armię goblinów kosztem wielkich strat zniszczono, ale krasnoludom brakowało sił, aby utrzymać w swoich rękach starą siedzibę. Przed zajęciem miasta wstrzymywała ich także ciągła obecność Balroga.

Zostawione w spokoju gobliny ponownie się rozrastały. Większość z nich wyginęła w 2941 r. podczas Bitwy Pięciu Armii, pomimo tego zdołali jednak wyprzeć krasnoludów pół wieku później, gdy w 2989 r. do Morii przybył Balin i założył tam kolonię. Gobliny wycofały się wówczas do głębszych jaskiń, ale po pięciu latach przypuścili atak i zabili wszystkich krasnoludów, odcinając im wpierw obie drogi ucieczki z miasta.

W 3018 r. do miasta wkroczyła od zachodu Drużyna Pierścienia. Przy zachodniej ścianie wędrowcy zaatakowani zostali przez Czatownika, w wyniku czego zrujnowana została Zachodnia Brama Morii. Pomimo niezakłóconej przez następne dwa dni przeprawy we wschodnich rejonach kopalni Drużynę zaatakowali orkowie wraz ze Zgubą Durina (Balrogiem). Gandalf ocalił towarzyszy, lecz sam spadł za Balrogiem z Mostu Khazad-dûm, wąskiej przeprawy nad przepaścią zabezpieczającą miasto przed napaścią ze wschodu. Reszta Drużyny uciekła do lasu Lórien, gdzie ścigający ich gobliny zostały wybite przez elfów.