Щербина родился на Кубани, в станице Новодеревянковская, но после отъезда из страны связал себя с украинской эмиграцией, поэтому вплоть до ухудшения отношений между Россией и Украиной, Киев и Краснодар спорили из-за статуса Щербины. В Краснодаре его считали выдающимся кубанским деятелем, а на Украине — выдающимся украинцем.
Щербина родился в семье священника, но всегда считал себя потомком запорожского казацкого рода. Более чем за половину века до рождения Щербины, на Кубань действительно переселили часть запорожцев, которые стали Черноморским казачьим войском. Позднее оно слилось с Кавказским казачьим войском, так и появились кубанские казаки.
Поначалу Щербина пошел по стопам отца, окончив духовное училище и семинарию. Но затем выхлопотал казачью стипендию для обучения в сельскохозяйственной академии в Москве. Откуда, впрочем, был исключен за участие в студенческих выступлениях.
В то время Щербина уже увлекся революционными идеями, его лучшим другом был уроженец Кубани Григорий Попко, также известный под революционной кличкой «Голопупенко». Вместе они решили создать идеальную артель-коммуну, чтобы местные крестьяне брали с них пример. Они арендовали землю и начали на ней хозяйничать, но через год бросили это дело. Получалось мало что, вдобавок местные крестьяне над ними посмеивались и категорически отказывались брать пример.
В итоге приятели уехали в Одессу, где поступили в Новороссийский университет. Одесса 1870-х была бурлящим местом, полным горячей южной молодежи, желавшей действовать. Вскоре и друзья отошли от детских забав типа артелей и сколотили свой революционный кружок, получивший название «Башенцы».
Все они в тот период находились под сильнейшим влиянием народника Лаврова. Впрочем, расхождения между ними начались очень быстро. Щербина выступал за продолжение пропаганды и «хождение в народ». А Попко\Голопупенко стремительно радикализовался и начал выступать за террор и «акции прямого действия».
В 1875 году был разгромлен Южнорусский союз рабочих — союзная башенцам организация. Через некоторое время был убит рабочий, давший показания по делу «южнорусских». Под подозрением оказались башенцы — Щербина даже на время арестовывался, но в итоге был освобожден в связи с отсутствием улик. Убийцами оказались Попко и еще один башенец Волошенко.
Вскоре после этого башенцы распались. Щербину за участие в антиправительственной пропаганде выслали в Вологодскую губернию, что, возможно, спасло ему жизнь. Потому как его закадычный друг Попко после этого совсем покатился по наклонной, став откровенным террористом и убив еще двух человек, что в конце концов привело его на бессрочную каторгу.
Щербина же, прожив три года в Вологодской губернии, переехал в Воронеж, где работал в местном земстве и стал достаточно крупным специалистом по статистике. Через несколько лет Попко, друг его мятежной юности, умер на каторге, а Щербина получил императорскую премию, а чуть позже стал членом-корреспондентом Академии наук.
К началу ХХ века Щербина был уже знаменитым деятелем, придерживавшимся оппозиционных, но относительно умеренных взглядов. Он вернулся на Кубань, где избрался депутатом в Государственную Думу.
Но главной его работой стало изучение истории кубанских казаков. Щербина засел за архивы для написания монументального труда. Значительную помощь в работе ему оказывал никому не известный молодой украинский революционер бежавший на Кубань. Звали его Семен Петлюра. Итогом их трудов стало издание двухтомника по истории кубанского казачьего войска.
Щербина поддержал февральскую революцию, но категорически не принял октябрьскую. В начале 1918 года вместе с Кубанским отрядом под командованием Покровского, Щербина ушел из Екатеринодара на соединение с небольшой Добровольческой армией. Впрочем, в боевых действиях он не участвовал, а писал поэму про переселение запорожцев на Кубань. Тем не менее, позднее Щербина был награжден значком первопоходника.
После провозглашения Кубанской народной республики, Щербина стал одним из крупнейших ее деятелей. Он входил в состав Кубанской рады и возглавлял Верховный суд республики. Крупного политического влияния он не имел, но считался важной символической фигурой. Его портреты даже вывешивались в кубанских школах.
Ключевой проблемой Кубани было непреодолимое противоречие, заключавшееся в том, что часть кубанцев была украинофилами, ориентировавшимися на Киев и желавших союза с гетманом Скоропадским, а другая часть ориентировалась на «единую и неделимую» и выступала за союз с белыми. Эти противоречия в конце концов вылились в откровенную вражду и поспособствовали окончательному краху республики.
Щербина же успел эвакуироваться в составе кубанской делегации в Королевство сербов, хорватов и словенцев. Оттуда он перебрался в Прагу, где стал активным деятелем эмиграции. Правда, уже украинской.
В Праге было создано «Общество кубанцев», объединявшее эмигрантов из КНР. Но и там очень быстро дали о себе знать старые противоречия. Спор между украинофилами и русскими завершился тем, что большинство русских участников покинули общество и оно быстро стало превращаться в украинскую организацию с кубанским колоритом.
При этом украинофилы-казаки в споре с оппонентами подняли на щит Щербину, активно ссылаясь на его статьи и исторические исследования. Сам Щербина был от этого не в восторге, выступая против межнациональных распрей, но в конце концов вынужден был уступить. Жизнь в эмиграции была непростой, хорошие места были заняты. Из России эмигрировало столько видных деятелей, что Щербина на их фоне терялся. А украинцы вполне охотно его привечали и в конце концов он окончательно перешел в украинский лагерь.
Некоторое время Щербина был ректором Украинского свободного университета в Праге, затем работал Украинской хозяйственной академии. До самой смерти он сотрудничал с множеством украинских эмигрантских организаций, хотя себя прежде всего считал кубанцем.
Щербина умер в 1936 году и через многие годы после смерти за его наследие развернулась настоящая борьба. В брежневские времена чехи передали хранившийся у них архив Щербины Краснодарской области. Однако после распада СССР Щербину стали считать национальным деятелем в независимой уже Украине. Ссылаясь на то, что он считал себя потомком запорожцев, а после революции и вовсе писал почти исключительно на мове и работал в украинских общественных организациях.
Однако это оспаривается на Кубани, где считают Щербину выдающимся местным деятелем и существует, можно сказать, его локальный культ. В нулевые и десятые Щербина пользовался на Кубани большой популярностью, администрации края даже удалось договориться с Чехией о перезахоронении его останков на Кубани, которое состоялось в 2008 году. Чуть позже там же был установлен и памятник в его честь.