武則天垂拱二年（686),狄仁杰出任寧州（今甘肅寧縣、正寧一帶）刺史。他到任后，協(xié)調(diào)寧州各民族的關(guān)系，使“內(nèi)外相安，人得安心”，百姓都為他立碑頌德。后來，狄仁杰出任工部侍郎，充江南巡撫使。他了解到吳、楚等地官吏迷信，建造大批供奉神靈的祠廟，勞民傷財(cái)，便下令搗毀了1700多座祠廟，從而減輕了百姓的負(fù)擔(dān)。

武則天垂拱四年（688),博州刺史瑯琊王李沖和豫州刺史越王李貞起兵反武。武則天出兵平亂后，將與越王李貞株連的人都關(guān)進(jìn)大獄，準(zhǔn)備處死。狄仁杰深知大多數(shù)囚徒都是平民百姓，因受越王軍隊(duì)的脅迫才在軍中服役。于是，他上疏武則天，說：“這些人件逆不是出于本心，望陛下體恤他們的苦衷，從輕發(fā)落。”武則天深知狄仁杰一心為公，便采納了他的建議，將這批囚徒改判流放。這批囚徒在流放途中，經(jīng)過狄仁杰曾任官的寧州時(shí)，與當(dāng)?shù)匕傩找煌┰跒榈胰式芩⒌?ldquo;德政碑”前，痛哭失聲，感懷其恩德。

越王兵敗后，狄仁杰被任命為豫州刺史。當(dāng)時(shí)的宰相張光輔平定越王叛亂有功，他手下的將士自恃功高，四處屠殺降卒以邀戰(zhàn)功，還向狄仁杰大肆勒索。狄仁杰當(dāng)面怒斥張光輔說：“禍亂河南的原本只有李貞一人，如今死了一個(gè)李貞，卻生出千萬個(gè)李貞！”張光輔不解地問此話何意。狄仁杰說：“你領(lǐng)兵30萬討伐李貞，豫州百姓聽聞唐軍來到，都出城投降，你卻放任士兵殺害降卒，無辜之人尸橫遍野，這不是比千萬個(gè)李貞禍害更甚嗎？”狄仁杰越發(fā)激動(dòng)地說：“我若有尚方寶劍在手，恨不得架在你的脖子上！”張光輔啞口無言，卻怒火中燒。不久后，張光輔參奏狄仁杰妄自尊大，以下犯上，致使狄仁杰被貶為復(fù)州刺史，后來又降為洛州司馬。