Неоспоримых заслуг у Пархоменко было три. Во-первых, удачное происхождение. Рабочий из крестьян. По-настоящему работавший на настоящем заводе, хоть и недолго. Во-вторых, весьма колоритная внешность. Суровый мужик с брутальными усами. В-третьих, личные связи с Климом Ворошиловым, который был знаком с ним с первых лет в партии.

Пархоменко окончил два класса сельской школы. Некоторое время проработал батраком. Когда подрос, перебрался к родственникам в Луганск, где некоторое время работал на неквалифицированных работах, а затем попал на завод. Под влиянием старшего брата в 1904 году вступил в РСДРП. Тогда же познакомился и с Ворошиловым.

С началом революции 1905 года он вступил в одну из боевых организаций большевиков. Вообще, крепкий Пархоменко всегда специализировался на силовых акциях. Славы теоретика-интеллектуала или пламенного оратора за ним никогда не водилось. Ворошилов ценил «горячую голову» Пархоменко, и вскоре тот выдвинулся в лидеры «пехоты». Т. е. людей, которые выполняли поручения старших членов партии. Поручения эти были деликатного свойства. Физическое воздействие на политических противников, контроль над заводским цехом, помощь в организации забастовок (не все рабочие добровольно соглашались бастовать, когда требовала партия) и т. д.

После подавления беспорядков Пархоменко залег на дно, перейдя работать на другой завод. В конце концов его нашли и некоторое время он провел в тюрьме. В годы первой мировой войны Пархоменко, устроившийся на Луганской патронный завод, стал одним из организаторов стачки. Поскольку завод был военный, забастовщиков наказали тем, что отменили «бронь» от армии. Пархоменко и остальные активные участники были отправлены на военную службу.

Там его и застала Февральская революция. До фронта он так и не доехал, к началу беспорядков он был в составе запасного полка, расквартированного в Москве. Он принял весьма активное участие в революционных событиях. Вместе с группой солдат он захватил полицейский участок и назначил себя начальником Марьинского района. Впрочем, ненадолго. У большевиков в Москве было достаточно своих проверенных людей, поэтому буквально через несколько дней его сослали в Луганск.

Там он окунулся в привычную стихию — возглавил боевой отряд, на этот раз вооруженный до зубов, и по совместительству стал начальником штаба формирующейся в городе красной гвардии.

Хотя Пархоменко входит в когорту главных героев Гражданской, каких-то серьезных успехов на полях сражений он не имел, за исключением того, что однажды отбил Екатеринослав у григорьевцев, которые, впрочем, были в тот момент не очень боеспособны. Те же Буденный, Егоров или Примаков могли ударить себя в грудь и сказать, что они добивались серьезных побед в крупных сражениях. Пархоменко, с одной стороны, был на виду, занимая высокие посты, с другой, похвастаться ему было нечем. Должности, которые он занимал, были скорее политико-административные. Он являлся начальником гарнизона Харькова и комендантом Ростова.

С последней должностью был связан неприятный инцидент. Проходившая через город первая конная армия Буденного устроила там разгул, в котором поучаствовал и сам революционер. Пархоменко на пару с инспектором конармии Крапивиным устроил обильные возлияния, после которых они напали на караульного комендатуры. Причем пьяный Пархоменко еще оказывал сопротивление пытавшимся его задержать.

В итоге его отдали под трибунал, который приговорил Пархоменко к смертной казни с лишением всех орденов. Однако, поскольку Пархоменко был ценным революционером, наказание сразу же было заменено на год лишения свободы условно.

В итоге осужденный даже пошел на повышение, став начальником 14-й кавалерийской дивизии, которую перебросили на польский фронт. Впрочем, польский поход завершился крайне неудачно, и уже осенью дивизию Пархоменко перебросили сначала в Крым, а затем кинули против Махно.

Это был весьма интересный поворот, поскольку младший брат Пархоменко — Артем был убежденным анархистом и антисоветчиком. Долгое время он был одним из полевых командиров в армии Махно (возглавлял полк), но в 1920 году, когда Махно заключил очередной союз с большевиками, в знак протеста покинул его армию и позднее примкнул к Тамбовскому восстанию. От антоновцев Пархоменко позднее ушел, вернувшись к анархистам. Артем неоднократно агитировал брата, с которым они состояли в переписке, перейти на его сторону и бросить «предателей простого народа — большевиков».

3 января 1921 года штаб 14-й дивизии напоролся на отряд махновцев у села Бузовка в Черкасской области. В советских художественных произведениях гибель Пархоменко описывалась в героических тонах. Штаб принял неравный бой, и все погибли, причем Пархоменко уничтожил в одиночку едва ли не всех махновцев. В мемуарах Буденного, вышедших уже в постсталинскую эпоху, о горах трупов уже ничего нет. Говорится лишь о том, что весь штаб был перебит в бою.

Однако в мемуарах одного из ближайших сподвижников Махно Виктора Белаша, который был непосредственным свидетелем гибели Пархоменко, его гибель описывается совсем иначе. По словам Белаша, штаб дивизии ехал по дороге, пренебрегая всеми правилами безопасности, без дозорных и разведки. Встреча с анархистами действительно была случайной, поскольку штаб ехал с красными знаменами, те имели возможность подготовиться к нападению и быстро разоружили их.

Пархоменко не стал запираться на допросе, дал ряд сведений о расположении других частей и начал уверять, что он и сам симпатизирует анархистам, показывал переписку с братом-анархистом и т.д. Однако махновскому отряду, который вынужден был отступать от превосходящих сил, пленники были только обузой, тем более в таком количестве. Поэтому весь штаб расстреляли. Спустя полгода в бою с красными погиб и его брат Артем.

Долгое время Пархоменко был в относительном забвении. Только в конце 30-х — начале 40-х годов его неожиданно вознесли в пантеон главных героев Гражданской войны. Вероятно, это произошло при участии Ворошилова или даже лично Сталина, который тоже достаточно хорошо знал Пархоменко. С тех пор едва ли не в каждом втором-третьем городе СССР появилась улица Пархоменко.