Терновский район расположен в северно-восточной части Воронежской области, граничит с Тамбовской областью, а также с Грибановским, Аннинским и Эртильским районами Воронежской области. 

Заселение современной территории района русскими проходило в XVII-XVIII вв. В то время на реках Савала и Карачан находились промысловые угодья дворцовых крестьян Верхоценской области.