Александр Яковлевич Пархоменко родился 12(24) декабря 1886 года в селе Макаров Яр, ныне село Пархоменко Краснодонского района Луганской народной республики, — герой Гражданской войны, член РКП(б) с 1904 года. В Красной Армии с 1918 года.
С 1900 года Александр Пархоменко — рабочий Луганского паровозостроительного завода. Активно участвовал в революционном движении.
В 1905—07 годах был одним из организаторов боевой рабочей дружины, затем руководителем крестьянского восстания в селе Макаров Яр. Неоднократно арестовывался.
В 1916 году — один из руководителей политической стачки на Луганском патронном заводе. В том же году был мобилизован в армию. Во время Февральской революции 1917 года отряд солдат во главе с Пархоменко разоружил Марьинский полицейский участок в Москве и штурмовал здание телеграфа.
По возвращении в Луганск (март 1917) Пархоменко принимал активное участие в сплочении пролетарских сил, вёл борьбу с меньшевиками и эсерами, создал на патронном заводе боевую дружину, возглавлял штаб Красной Гвардии.
После Октября 1917-го участвовал в установлении Советской власти в Донбассе, в подавлении мятежа Каледина и в борьбе против Центральной Украинской рады.
С марта 1918 года Пархоменко возглавлял штаб первого Луганского отряда (командир — К.Е.Ворошилов), который участвовал в боях с немецкими оккупантами. В боях за Донбасс, при обороне Харькова, в героическом походе 5-й Украинской армии к Царицыну ярко раскрылись военное дарование, организаторские способности Александра Яковлевича Пархоменко, его бесстрашие.
В июне 1918-го Пархоменко с отрядом прошёл через занятые врагом степи в Царицын, где в октябре (1918) был назначен особо уполномоченным РВС 10-й армии.
С января 1919 года Александр Яковлевич Пархоменко — воен. комиссар Харьковской губернии, начальник гарнизона Харькова и одновременно уполномоченный по снабжению Харьковского военного округа. Командовал группой войск при разгроме банд Григорьева. За умелое руководство сводным отрядом советских войск при взятии Екатеринослава (Днепропетровск) и проявленные при этом мужество и храбрость был награждён орденом Красного Знамени. В последующем командовал Харьковской крепостной зоной, образованной в связи с наступлением деникинских войск.
С декабря 1919 года — он особоуполномоченный РВС 1-й Конной армии, а с апреля 1920-го начальник 14-й кавалерийской дивизии этой армии. В Киевской операции 1920-го и в боях в Северной Таврии Александр Яковлевич Пархоменко проявил большое мужество, храбрость и самообладание, за что был награждён вторым орденом Красного Знамени.
Убит махновцами 3 января 1921 года в селе Бузовцы, ныне Жашковского района Черкасской области.
Александр Пархоменко стал одним из наиболее почитаемых героев Гражданской войны. Его память увековечивалась в названиях улиц, населенных пунктов. В частности Луганский машиностроительный завод назван именем А.Я.Пархоменко.