Точное время возникновения Алексеевки неизвестно. Она возникла в конце XVII либо в самом начале XVIII века. Население Алексеевки в 1779 году, согласно «Ведомости, исъ какихъ именно городовъ и уездовъ Харьковское наместничество составлено и сколько было въ нихъ душъ на 1779 годъ», было 398 «владельческих подданных» душ вахмистров Ивана и Григория Квиток и 179 душ неописанной принадлежности (учитывались только мужчины; женщин и детей не считали, так как они не платили налогов). В данной ведомости Алексеевка именуется «владельческая слободка». Затем Квитки (из рода которых был писатель Григорий Квитка-Основьяненко) продали Алексеевку Щербининым, из рода которых был первый харьковский губернатор Евдоким Щербинин.

В 1782 году в слободке Алексеевка, владении коллежскаго советника Петра Андреева сына Щербинина в 39 дворах проживало 280 человек. Первоначально располагалась несколько выше пересечения Золочевской дороги (ныне улица Клочковская) с речкой Алексеевкой, на правом её берегу, выше источника; на карте 1788 года обозначена как «деревня».

В списках населенных мест Харьковской губернии 1864 года в селе Алексеевка в 120 дворах проживало 664 жителя. Была православная церковь и винокуренный завод. В 1885 году в селе Алексеевка Алексеевской волости в 115 дворах проживало 644 жителя. Была православная церковь. По переписи населения 1897 года в селе Алексеевка проживали 853 жителя.

Название села и Алексеевской улицы связано со святым источником православного святого Алексия, человека Божия.

Восточнее Алексеевской улицы был построен в 1839 году православный храм Алексия, человека Божьего (Харьков), разрушенный при штурме города во время третьего сражения за Харьков в 1943 году. Сейчас возле бывшего православного храма ведётся строительство большого кафедрального католического храма Харьковской диоцезии Римско-католической церкви с домом главы католической епархии и вспомогательными службами. Источник же действует и поныне.

До 1950-х годов Алексеевка была селом на левом (восточном) берегу реки Лопань, выше нынешнего лугопарка, и не входила в городскую черту Харькова. Этот район сейчас называется Старая Алексеевка. Возле неё находились посёлок Лозовенька и посёлок лесничества Зелёное.

В 1937-1940 годах, перед ВОВ, в Алексеевке было 679 дворов, православная церковь, пруд и свой Алексеевский сельсовет. В нижней части Алекссевки, на подоле, ближе к Лозовеньке, находился ныне не действующий кирпичный завод, от которого остались пять карьеров, заполненных водой.

Массовая застройка Алексеевки многоэтажными жилыми домами началась с середины 1970-х годов. В 1980-х годах район застраивался в сторону Пятихаток. Район от проспекта Людвига Свободы в сторону Пятихаток называется Новая Алексеевка.