Zgrada je, dolaskom austougarske uprave, prvobitno izgrađena 1887. godine kao Konak da bi 1891. godine pretvorena u zgradu Vijećnice. Nije poznato ime graditelja, ali predpostavlja se da su je gradili isti majstori kao i zgradu Osman-kapetanove medrese.
Za vrijeme austrougarske uprave služi kao uprava kotara i sud, izmeđa dva rata za upravu sreza, a iza Drugog svjetskog rata za upravu grada Gračanica. Danas je u njoj Gradonačelnik i neke gradske službe.
U osnovi objekat ima oblik slova „E“. Ima vanjske vodoravne gabarite 32,40 x 20,30 m. Zgrada ima podrum, prizemlje i sprat. Izgrađena je u pseudomauroskom maniru što se najbolje vidi na dvoslojnim fasadama, ulaznom portalu i prozorima. Stilski posmatrajući svojevrsni je „spoj Zapada i Istoka“, odnosno spoj načina građenja za vrijeme austrougarske uprave kojeg karetkteriše kombinovanje elemenata klasičnog preporoda i pseudomaurskog stila.
Više puta tokom historije je obnavljana. Na sjevernu fasadu zapadnog krila objekta 2009. godine naslonjen je novi objekat u funkciji gradske uprave.
Komisija za očuvanje nacionalnih spomenika 2009. godine proglasila je „Historijsku građevinu Konak-Vijećnica u Gračanici“ nacionalnim spomenikom Bosne i Hercegovine.