Mihaljčić je rođen 21. januara 1937. godine u Srednjoj Jurkovici kod Gradiške. Kao dječak odveden je u jasenovački sistem logora, u kojem je izgubio roditelje i najbliže srodnike. Osnovnu školu pohađao je u Sisku i Kotor Varošu, a gimnaziju u Banjoj Luci.

Diplomirao je istoriju na Filozofskom fakultetu Univerziteta u Beogradu 1960. godine, a zatim na istom fakultetu magistrirao 1965. godine, te doktorirao 1971. godine.

Tokom  1966. i 1967. godine proveo je tri mjeseca u Francuskoj, na specijalizaciji kod čuvenog istoričara Žorža Dibija, i sedam mjeseci u Grčkoj.

Na Filozofskom fakultetu Univerziteta u Beogradu prošao je kroz sva zvanja, od asistenta do redovnog profesora, u zvanje redovnog profesora je izabran 1984. godine. Bio je i redovni profesor Filozofskog fakulteta Univerziteta u Banjoj Luci, a 2009. godine Univerzitet u Banjoj Luci mu je dodijelio zvanje profesor emeritus.

Za dopisnog člana Akademije nauka i umjetnosti RS izabran je 21. juna 2004. godine, a za redovnog 5. septembra 2008. godine.

Akademik Mihaljčić je autor mnogih djela, a najznačajnija su: "Kraj Srpskog Carstva", "Lazar Hrebeljanović ‒ istorija, kult, predanje", "Junaci Kosovske legende", "Srpska prošlost i narodno sećanje", "Izvorna vrednost stare srpske građe", "Vladarske titule oblasnih gospodara" i "Zakoni u starim srpskim ispravama: pravni propisi, prevodi, uvodni tekstovi i objašnjenja".