北京的第一所新式監(jiān)獄定名為京師模范監(jiān)獄。清法部在奏請建設(shè)時稱：“京城設(shè)立新監(jiān)獄尤模范中之模范，其規(guī)模不可不寬博，其教養(yǎng)不可不完全”。監(jiān)獄的地址選在了南城的一片沼澤地，名為南下洼。

在當(dāng)時，出了宣武門人們便認(rèn)為到了不祥之地。因為菜市口是個殺人的地方，在這里不遠(yuǎn)處建個深牢大獄倒也順理成章。

監(jiān)獄從籌建到建成使用，應(yīng)該說完全師從于西方。監(jiān)獄建筑由日本監(jiān)獄學(xué)家小河滋次郎博士設(shè)計規(guī)劃。監(jiān)樓中央為圓形瞭望樓，5條監(jiān)區(qū)呈扇形向外擴(kuò)散，從天空俯瞰，頗像一只探首伸足的烏龜，因此也被俗稱為“王八樓”。

一百年前，還沒有今天的電網(wǎng)、紅外線，防止罪犯脫逃可以說基本仰仗著這所“王八樓”獨(dú)特的建筑構(gòu)造。

監(jiān)區(qū)通道向外輻射，看守辦公室在中間，是出入監(jiān)樓的必經(jīng)之路，犯人想要逃跑，就意味著得在看守眼皮子底下逃遁；站在如同“龜身”的圓形瞭望樓處，可以觀察各個通道的情況；房頂上全鋪設(shè)鉛瓦，如果有人在房頂上行走，噼噼咔咔的聲音無疑就是“警報”。

每個監(jiān)區(qū)都是“凸”型結(jié)構(gòu)，中間是通道，兩邊是監(jiān)舍，通道上方凸起部安裝玻璃，通風(fēng)透光性較好，解決了采光問題。在當(dāng)時看來確實比較先進(jìn)。連國外學(xué)者都盛贊其建筑水平與國際接軌。

模范監(jiān)獄修建之時，正是清王朝氣數(shù)已盡之日，庫銀空虛，未待“模范中之模范”的監(jiān)獄建成，便草草完竣。原本預(yù)算的20余萬兩白銀，實際只支付了17萬兩。致使獄中的道路、排水系統(tǒng)，甚至連監(jiān)獄官吏使用的廁所都無力建成。加上這里原本地勢低洼，易存水，而且為防罪犯脫逃，監(jiān)獄四圍還開鑿大溝，溝水沒有地方排泄，時間久了渾濁不堪。