武則天垂拱二年（686),狄仁杰出任寧州（今甘肅寧縣、正寧一帶）刺史。他到任后，協(xié)調寧州各民族的關系，使“內外相安，人得安心”，百姓都為他立碑頌德。后來，狄仁杰出任工部侍郎，充江南巡撫使。他了解到吳、楚等地官吏迷信，建造大批供奉神靈的祠廟，勞民傷財，便下令搗毀了1700多座祠廟，從而減輕了百姓的負擔。

武則天垂拱四年（688),博州刺史瑯琊王李沖和豫州刺史越王李貞起兵反武。武則天出兵平亂后，將與越王李貞株連的人都關進大獄，準備處死。狄仁杰深知大多數囚徒都是平民百姓，因受越王軍隊的脅迫才在軍中服役。于是，他上疏武則天，說：“這些人件逆不是出于本心，望陛下體恤他們的苦衷，從輕發(fā)落。”武則天深知狄仁杰一心為公，便采納了他的建議，將這批囚徒改判流放。這批囚徒在流放途中，經過狄仁杰曾任官的寧州時，與當地百姓一同俯在為狄仁杰所立的“德政碑”前，痛哭失聲，感懷其恩德。

越王兵敗后，狄仁杰被任命為豫州刺史。當時的宰相張光輔平定越王叛亂有功，他手下的將士自恃功高，四處屠殺降卒以邀戰(zhàn)功，還向狄仁杰大肆勒索。狄仁杰當面怒斥張光輔說：“禍亂河南的原本只有李貞一人，如今死了一個李貞，卻生出千萬個李貞！”張光輔不解地問此話何意。狄仁杰說：“你領兵30萬討伐李貞，豫州百姓聽聞唐軍來到，都出城投降，你卻放任士兵殺害降卒，無辜之人尸橫遍野，這不是比千萬個李貞禍害更甚嗎？”狄仁杰越發(fā)激動地說：“我若有尚方寶劍在手，恨不得架在你的脖子上！”張光輔啞口無言，卻怒火中燒。不久后，張光輔參奏狄仁杰妄自尊大，以下犯上，致使狄仁杰被貶為復州刺史，后來又降為洛州司馬。