Generalni inspektorat (GI) je počeo sa radom kao Ured generalnog inspektora (OIG) u maju 1999. godine. Ured je imao zadatak da osigura da se u Oružanim snagama Bosne i Hercegovine (OS BiH) provedu sve odredbe i standardi propisani Poglavljem 14 Uputstava stranama (ITP).
Tokom prvih osamnaest mjeseci postojanja Ureda GI, prvenstveno težište njegovog rada bilo je provođenje ispitivanja i zvaničnih istraga oficira OS BiH za koje su postojali navodi da su prekršili principe i standarde Poglavlja 14 Uputstava stranama. Istovremeno, Ured GI je ubrzanim tempom držao predavanja i provodio obuku iz prefesionalizma i etike kako bi obrazovao pripadnike OS u BiH u skladu sa odredbama Poglavlja 14 Uputstava stranama.
Početkom 2001. godine Ured GI se još više posvetio obuci iz profesionalizma i etike pripadnika OS BiH, što je rezultiralo manjim brojem slučajeva kršenja Poglavlja 14 Uputstava stranama, i to zbog boljeg poznavanja standarda, te uvođenja odgovornosti za oficire sa generalskim činom. Smanjenje broja istraga omogućilo je Uredu GI da posveti više pažnje zahtjevima za pomoć koji su stizali od građana i pripadnika OS BiH. Civili, regruti, oficiri, te oficiri sa generalskim činom tražili su pomoć od Ureda GI po raznim pitanjima kao što su stambena problematika, plate, vojna disciplina i jednak tretman pred zakonom.
Dodatni zadaci koji su dodijeljeni Uredu GI u 2001. i 2002. godini obuhvataju razvoj i primjenu funkcionalne mreže generalnih inspektora unutar OS BiH, unapređenje računarske opreme i stručnosti inspektora po pitanju korištenja računara i izradu web-stranice Ureda GI, održavanje seminara za generalne inspektore, te ključni prelazak Ureda GI u Ministarstvo odbrane BiH (MO BiH). Ured generalnog inspektora je okarakteriziran kao nezavisan ured koji djeluje na državnom nivou i koji demonstrira istinski timski rad, uzajamno poštovanje, transparentnost i saradnju.
Stupanjem na snagu Zakona o odbrani BiH Ured generalnog inspektora je preimenovan u Generalni inspektorat Ministarstva odbrane BiH. Takođe, 26 januara 2006. godine izvršena je predaja ovlasti sa Ureda GI NATO Štaba u Sarajevu na Generalni inspektorat MO BiH, osim funkcije provjera osoba predloženih na ključne pozicije u sistemu odbrane BiH.