Терновский район расположен в северно-восточной части Воронежской области, граничит с Тамбовской областью, а также с Грибановским, Аннинским и Эртильским районами Воронежской области. 

Заселение современной территории района русскими проходило в XVII-XVIII вв. В то время на реках Савала и Карачан находились промысловые угодья дворцовых крестьян Верхоценской области.

Терновка основана в 1730-е гг. свободными крестьянами, называвшими себя вольными хлебопашцами. Вскоре рядом с ними поселился помещик – майор Н.В.Новосельцев, построивший большой господский дом и переселивший сюда своих крепостных крестьян из других владений. По данным "ревизских сказок”, в 1763 г. на месте села Терновка существовал поселок в населением в полтораста человек. 
В 1766 г., после смерти Н.В. Новосельцева, его имение досталось многочисленным наследникам. Во второй половине XVIII в. "ревизские сказки” среди владельцев этой территории называют двух Пановых, двух Кондауровых, Окорокова и Цыплятева. Дробление имения привело к сокращению населения с. Терновка в 70-е гг. XVIII в.
 В описании Борисоглебского уезда 1787 г. сказано, что село "Новосельцево, Терновка тож” расположено по берегам речки Терновка и пруда, имеет две церкви (каменную и деревянную), кузницу. Кроме крепостных крестьян здесь отмечены также "вольные хлебопашцы” – всего 47 дворов, 430 человек. 
 В 1812 г. один из владельцев села – Афанасий Григорьевич Панов (вероятно, в связи с началом Отечественной войны), отпустил на волю с земельными наделами 150 ревизских (т.е. мужских) душ. Отпущенные крестьяне в большинстве своем остались в дальнейшем на этих землях. В середине XIX в. Терновка все еще считалась частновладельческим и казенным селом, то есть часть ее жителей была в крепостной зависимости. В эти годы в селе было 262 крестьянских двора, 1111 жителей.
 В 1869-1871 гг. рядом с селом прошла железная дорога Грязи-Борисоглебск, построена железнодорожная станция с одноименным названием. В первые годы XX в. в селе была выстроена паровая мельница.
 На станции Терновка Юго-Восточной железной дороги в 1907 г. "Товариществом Терновской паровой мельницы и масленичного производства” сооружен комплекс маслобойного завода и в 1908 г. – паровой мельницы. Управляющим комплексом был Георгий Афанасьевич Латышев. В 1914 г. на заводе имелся один паровой двигатель мощностью 36 л.с., насчитывалось 22 рабочих. Продукция – подсолнечное масло и жмыхи. Годовая производительность – 1 200 000 рублей. В паровой мельнице имелся двигатель мощностью 200 л.с. За год здесь перерабатывалось 505 000 пудов ржи. 
В ноябре-декабре 1917 г. в деревнях и селах района установлена Советская власть. Были созданы новые органы государственного управления – волревкомы, волисполком. Во главе их стояли активные сторонники новой власти: Мещеряков, Белолипецкий, Попов, Истягин, Марчуков, В.И. Ненашев, С.М. Ефремов, И.Л. Стрельников, П.И. Очнев и др.
 В годы гражданской войны на территории Терновского района одной из причин социально-политических конфликтов являлась борьба за хлеб. Крестьяне всячески противились конфискации, продразверсткам и другим некомпенсируемым изъятиям хлеба. Нередко пассивное сопротивление (саботаж хлебозаготовок и т.п.) переходило в кровопролитие. В лесах формировались крестьянские вооруженные отряды. В 1919 г. здесь действовали отряды атаманов Кузнецова, Литвинова, Колесникова, А. Кулдошина, М. Коростылева. В борьбе с этими формированиями принимали участие бойцы и командиры 14-й бригады, 3-й стрелковой дивизии, а также автобронеподразделений Красной Армии. Каких-либо серьезных боевых действий между частями Красной Армии, Добровольческой армии и казаками Войска Донского в 1919 г. на этой территории не велось.
 С конца 1920 г. Терновский район стал зоной боевых действий красноармейцев 1-го Борисоглебского полка, 85-го стрелкового полка, 10-й стрелковой дивизии и Отдельной кавалерийской бригады Г.И. Котовского против формирований 1-й Антоновской армии. Фактически в это время большевики контролировали ситуацию только на территории станции Жердевка. В июне 1921 г. во время боевых действий в Терновке непродолжительное время находился И.П. Уборевич. Летом 1921 г. после полного разгрома на р. Карачан 1-й Антоновской армии на всей территории волости была восстановлена Советская власть (в августе месяце).
В конце 1920-х гг. развитие района происходило в условиях сплошной коллективизации, закончившейся в основном к 1930 г. Дальнейшее развитие получили предприятия перерабатывающей промышленности, возникшие еще в XIX в. (например, крупяной и маслобойный заводы на ст. Народная и др.).
 В годы Великой Отечественной войны территория Терновского района располагалась в непосредственной близости от линии фронта. По железной дороге через его территорию следовали эшелоны с боеприпасами, живой силой и техникой, санитарные поезда. Во многих селах района располагались эвакогоспитали. 
 Терновский район – родина Героев Советского Союза, удостоенных этого звания на фронтах Великой Отечественной войны. Среди них Н.С. Шевляков (с. Козловка), И.Н. Ефимов (с. Ново-Троицкое), М.А. Маренков (с. Костино-Оделец), А.А. Плохов (пос. Терновка), А.В. Самойлов (с. Протасьево).