Godine 1905. je u Sarajevu osnovana "Mala realka", koja je već sljedeće godine dobila još jedan razred i postala "Velika realka". Nakon Prvog svjetskog rata postaje "Druga muška realna gimnazija". Tokom Drugog svjetskog rata zgrada gimnazije biva uništena, a nova zgrada u ulici Sutjeska broj 1 je izgrađena 1959. godine. Reformom školstva i uvođenjem usmjerenog obrazovanja u SFRJ, Druga gimnazija postaje Matematičko-informatička gimnazija "Ognjen Prica". Dijelom rata u Bosni i Hercegovini 1992., škola je prekinula sa radom te su školske prostorije služile kao privremeni smještaj za izbjegle. Druga gimnazija je 2000. godine autorizovana da nudi IB dimplomu od strane IBO organizacije. Trenutno je jedna od tri škole u Bosni i Hercegovini koje učenicima nude IB diplomu.