Известий о ранних годах Якова Ивановича почти нет. Известно только, что родился он в 1892 году недалеко от Киева в стоящем на Днепре древнем городке Вышгороде.
Юношей Осипов попал на Балтику, стал матросом. Во время Первой мировой войны служил в составе рулевой команды на флагмане Российского императорского Балтийского флота броненосном крейсере «Рюрик». Этот корабль принимал участие в перестрелках с немецкими кораблями, выставлял минные заграждения. 20 ноября 1916 года у острова Готланд подорвался на мине, но своим ходом дошёл до Кронштадта, где потом два месяца ремонтировался. 18 февраля 1918 года этот корабль принимал участие в знаменитом Ледовом походе Балтийского флота из Ревеля и Гельсингфорса в Кронштадт.
Здесь моряки вставших на прикол кораблей массово записывались добровольцами в отряды морской пехоты, которые отправлялись на фронты Гражданской войны сражаться за молодую Советскую республику. Осипов пехотинцем стал не сразу, сначала его командировали в Нижний Новгород, где, начиная с июня 1918 года, формировалась Волжская военная флотилия (ВВФ). Возможно, бывший рулевой «Рюрика» прибыл туда на борту одного из четырёх отправленных по распоряжению Ленина на Волгу балтийских миноносцев, до Нижнего они добирались по Мариинской водной системе.
Осипову дали под начало канонерскую лодку «Ташкент» — 40-метровый корабль с малой осадкой и противопульным бронированием, вооружённый одной 76-мм пушкой обр. 1902 г., одной 47-мм пушкой Гочкиса и семью пулемётами. Корабль вошёл в состав Камского отряда флотилии, но провоевал недолго.
Канлодка ушла в поход в августе 1918 года, а уже 5 сентября, после начала общего наступления 5-й армии Восточного фронта красных на Казань, «Ташкент» и вооружённый пароход «Дельфин» вступили в неравную артиллерийскую дуэль с тремя батареями белых и погибли. Раненый Осипов вёл огонь из носового орудия своего корабля до тех пор, пока тот полностью не скрылся под водой.
«Безлошадный» моряк ушёл в десантный отряд флотилии, где возглавил конную разведку. Так Осипов впервые столкнулся с практикой боёв на суше.
Тогда же он познакомился с Гавриилом Васильевичем Жуковым — будущим адмиралом и ещё одним из защитников Одессы в 1941 году. Во время Гражданской тот в отряде Осипова служил сначала пулемётчиком, затем — начальником штаба, а потом стал командиром канонерских лодок ВВФ.
В 1919 году Яков Иванович сражался в районе Царицына и Астрахани. По заданию председателя временного революционного комитета в Астрахани Сергея Кирова отряд Осипова отправился в рейд по белогвардейским тылам, чем ускорил разгром врага. Киров уважал бывшего балтийского моряка за отчаянную храбрость и смекалку.
После окончания Гражданской войны Осипов служил в самых разных уголках СССР: и на Дальнем Востоке, и на Севере. Тем временем его старый боевой товарищ Гавриил Жуков дослужился до звания контр-адмирала, получил под своё начало Одесскую военно-морскую базу (ВМБ) и перетянул друга к себе, определив на должность начальника тыла. На этой должности в звании интенданта 1-го ранга и встретил Яков Иванович войну.
В юго-западной части Украинской ССР активные боевые действия начались со значительной, почти месячной задержкой. Однако румынам довольно быстро удалось потеснить советский фронт, и уже в первых числах августа стало понятно, что Одессу нужно готовить к обороне.
5-го августа из моряков личного состава ВМБ в Сабанских казармах спешно сформировали 1-й Черноморский полк морской пехоты (чпмп) командовать которым доверили майору И. А. Морозову. 8 августа полк занял участок в восточном секторе обороны в районе Григорьевки, Булдынки, Старой Дофиновки. В этот же день Осипова назначили командовать формирующимся 2-м чпмп.
С самого начала войны он не давал своему старому боевому товарищу адмиралу Жукову покоя, просясь на фронт, и вот фронт сам пришёл к нему.
После назначения звание Якову Ивановичу с интендантского сменили на армейское, он стал полковником. Первоначально полк размещался в городе, занимая позиции от Пересыпи до парка Шевченко. Моряки учились бросать противотанковые гранаты и бутылки с зажигательной смесью, осваивали приёмы рукопашного боя. В перерывах между занятиями они возводили на улицах баррикады, рыли окопы. В ход шло всё, даже брусчатка, которую сняли с двух улиц.
Инженерное отделение Одесской ВМБ и трамвайный парк для ведения уличных боёв совместно построили бронедрезину, обшив её бронелистами и вооружив двумя пулемётами. 3-тонный подъёмный кран «Январец» переоборудовали в бронемашину, пушки для которой сняли со стоявших на приколе бронекатеров Дунайской флотилии.
Парк Шевченко превратился в базу по подготовке моряков к сухопутным боям. Он был весь изрыт окопами и траншеями, в одном месте было организовано стрельбище, в другом — площадка для освоения приёмов самбо. Для подготовки своих морпехов Осипов выпросил у командования несколько сухопутных командиров, и они теперь гоняли «братишек» до седьмого пота.
Особенно больших усилий стоило отучить моряков воевать в чёрной морской форме, на выгоревшей степной траве она была слишком хорошо заметна.
Моряки роптали и отказывались выполнить приказ о смене бушлатов и чёрных брюк-клёш на обычную пехотную форму. В полку чуть не начался бунт. Даже после того, как сам Осипов, пользовавшийся среди моряков непререкаемым авторитетом, появился перед ними в командирской форме пехотного образца, всё равно продолжали раздаваться возмущённые возгласы.
В конце концов Якову Ивановичу удалось донести до своих подчинённых всю целесообразность этого шага. Морпехам разрешили оставить только тельняшки и бескозырки.
Тельники в морском обиходе неофициально называются «морской душой», лишать моряков «души» было бы просто неправильным. Бескозырки же разрешили носить только вне фронта, но моряки постоянно нарушали это распоряжение. Они считали особым шиком натянуть перед атакой вместо пилотки или каски бескозырку, и встать под вражеские пули именно в ней — пусть враг видит, что на него надвигается «чёрная смерть», так морпехов прозвал сам противник. Некоторые моряки шли ещё дальше, шили на бескозырки чехлы из ткани защитного цвета и щеголяли в таком виде.
А тем временем ситуация на восточном фасе обороны Одессы накалялась с каждым днём.
Румыны сосредоточили на подступах к городу свыше пяти армейских корпусов, преимущество их в живой силе и артиллерии стало пятикратным. 14 августа противник ударил сразу с запада и с востока, при чём основной натиск пришёлся на позиции 1-го чпмп, оборонявшегося в районе Григорьевки, высоты 59.8, северной оконечности Большого Аджалыкского лимана.
Своей артиллерии у морпехов не было, их поддерживали орудия 21-й и 412-й батарей береговой обороны. Боевое крещение 1-й чпмп получил 12 августа, но тогда ему удалось отбить вражеские атаки. 14 августа же они стали особо ожесточёнными, Булдынка несколько раз переходила из рук в руки. Помимо береговых батарей к поддержке моряков добавилась корабельная артиллерия эсминца «Шаумян» — ничего не помогло, к концу дня противник Булдынку занял.
1-й чпмп понёс большие потери, его пополнили 2-мя батальонами из состава 2-го чпмп.
В этих тяжёлых условиях командование над 1-м полком принял полковник Осипов, а 2-й передал майору Морозову.
1-й чпмп под натиском врага продолжал отступать и на следующий день, пока при очередном отходе противник не попал в ловушку. Моряки отходили между кукурузными полями и лиманом, когда со стороны оставленного у румын в тылу кукурузного поля застрочил пулемет. Враги запаниковали, заметались, а моряки, увидев это, поднялись в контратаку. Они не только отбили Булдынку, но и загнали неприятельский батальон в лиман.
Оказалось, что краснофлотец Семён Клименко по собственной инициативе остался у противника в тылу и атаковал его в подходящий момент. За это героя уже в сентябре наградили орденом Ленина.
Утром 16 августа противник возобновил наступление, атакуя на Шитцлы.
1-й чпмп Осипова, непрерывно атакуя, остановил наступление. На следующий день морпехи совместно с пограничниками отряда майора Алексея Александровича Маловского начальника 26-го пограничного отряда Черноморского пограничного округа, при поддержке огня береговой батареи и канонерской лодки «Красная Грузия» окружили Шитцлы. Было уничтожен целый вражеский батальон, в плен попало свыше 200 солдат и офицеров.
18 августа румыны повели наступление 18-ю дивизиями против четырёх во всех секторах обороны Одессы. Моряки Осипова отразили пять атак. 19 августа в районе Аджалыкского и Большого Аджалыкского лиманов последовала атака двух свежих дивизий при поддержке 50 танков и авиации, и снова 1-й чпмп отразил вражеский натиск.
Во время боёв была окружена рота, командовал которой капитан А. С. Ламзин. Морпехи восемь часов отбивали ожесточённые вражеские атаки румынского батальона, который поддерживали 15 танков. В кульминационный момент боя наступавшие враги залегли в пшенице. Тогда морпехи подожгли её, и воспользовавшись поднявшейся паникой, вырвались из окружения.
3 сентября 1-й и 2-й чпмп свели в 1330-й стрелковый полк (сп), возглавил который всё тот же полковник Осипов. Его включили в состав новой сформированной на базе Восточной группы войск Одесского оборонительного района (ООР) 421-й Одесской стрелковой дивизии (сд).
22-23 сентября дивизия своими действиями поддержала высадку и наступление морпехов 3-го чпмп, прибывшего из Севастополя на кораблях и десантировавшегося в районе Григорьевки.
Уже в 6:00 23 сентября бойцы Осипова соединились с бойцами 3-го полка. В результате этой операции войскам Одесского оборонительного района, командовал которым всё тот же контр-адмирал Жуков, удалось разгромить две румынские дивизии. Противник потерял убитыми и пленными более двух тысяч человек, шесть танков, более полусотни орудий и миномётов.
Однако судьба Одессы решалась не на подступах к ней, а в Крыму.
11-й пехотной армии Манштейна удалось прорвать Перекопские укрепления, но ещё оставались Ишуньские позиции, требовались надёжные войска, чтобы их укрепить, и было решено перебросить в Крым оборонявшую Одессу Приморскую армию, в саму южную Пальмиру сдать.
В ночь с 15 на 16 октября 1941 года полк Осипова оставлял город одним из последних.
17 октября в Севастопольскую бухту вошёл пароход «Абхазия», который и доставил в Крым сильно поредевший героические 1330-й полк. Уже вечером бойцы промаршировали в исторический сад у здания Панорамы обороны Севастополя в 1854-55 гг. Два дня полк приводил здесь себя в порядок, а 20-го числа получил приказ командования 421-й сд грузиться в вагоны. По железной дороге полк Осипова перебросили в Симферополь, откуда пешим порядком он направился в район Мазанка — Зуя, это северо-восточные подступы к столице Крыма. Здесь полк ещё три дня отдыхал от боёв и проводил обучение пополнения.
23 октября 1330-й сп отправили в тыл Ишуньских позиций в район Калинино — Красная, однако уже через два дня его отвели на станцию Сарабуз (совр. пгт Гвардейское), где снова погрузили в эшелоны и перебросили к хутору Чирик (совр. Пахаревка) в распоряжение 9-го стрелкового корпуса.
В соответствии с приказом его командования полк до утра 27 октября занимал оборону в районе Долинки, но затем получил приказ в районе Адий-Кийгач нанести удар во фланг рвущейся на юг 170-й пехотной дивизии немцев. Удар оказался успешным, полк вышел на окраины деревни Берды-Булат (немецкий), освободил её и Ново-Павловку, уничтожив до роты противника, захватили три пушки с боеприпасами и прочее имущество. После этого полк снова вернули в распоряжение Приморской армии, он занял оборону в районе ныне исчезнувшего села Аджи-Атман, прикрыв левый фланг армии.
К тому времени 11-я армия Манштейна уже прорвала Ишуньские позиции и стремительно продвигалась к Симферополю.
29 октября 1330-й полк переподчинили 25-й стрелковой дивизии генерал-майора Коломийцева. Он распорядился сдвинуться на 4 км западнее, закрепившись на высоте 125,2 и в деревне Улан-Эпи. Немцы атаковали полк, бросив на его позиции танки и бронемашины. Бойцы, не выдержав, немного отошли с занимаемого рубежа, когда среди них появился полковник Осипов. Он поднял полк в контратаку, и морпехи опрокинули противника, заняв прежний рубеж.
Ночью 1330-й сп получил приказ, отойти в район села Алач и занять оборону там фронтом на запад и север. Весь следующий день прошёл в ожесточённых атаках, но полк держал оборону, прикрывая отход наших войск. Вечером поступил приказ отходить и закрепиться южнее Симферополя в районе села Курцы (совр. Украинка — в черте города), развернувшись фронтом на запад.
На марше 1330-й полк встретил двигавшуюся из Севастополя ему навстречу 7-ю бригаду морской пехоты. Её командир полковник Евгений Иванович Жидилов оставил воспоминание о полковнике Осипове:
«Возле Атмана (совр. село Весёлое — прим. автора), у перекрестка дорог, где мы устроили короткий привал, лежит на траве группа усталых бойцов. Среди них сидит на камне человек в шинели. На голове кубанка. По чёрной бороде узнаю его. Это полковник Яков Иванович Осипов, командир Одесского полка морской пехоты. Поздоровались. Осипов мрачен, неразговорчив. Чувствуется, что он страшно устал. Горстка бойцов вокруг него — это всё, что осталось от героического полка, наводившего ужас на врага под Одессой».
В район Курцов полк прибыл 1 ноября в 17:00. В 8:00 следующего дня Осипова вызвали в Эски-Орда (совр. Лозовое) в штаб 25-й сд, чтобы поставить полку новую задачу. На обратном пути автомобиль атаковали вражеские автоматчики. Пули прошили полковника Осипова и комиссара полка старшего политрука Демьянова, шофёр комполка Широкий привёз в расположение только их тела. Похоронили их на северной окраине Курцов на лугу южнее табачного сарая.
После окончания войны по просьбе одесситов прах полковника Осипова перевезли из Крыма в Одессу и захоронили на Аллее Славы в парке им. Тараса Шевченко. Бывшую улицу Ремесленную назвали его именем, а на доме №2 установили мемориальную доску.
В 1985 году был снят фильм «Подвиг Одессы», в котором роль Осипова сыграл известный киевский актёр Константин Степанков. Ну а в 2007 году вышел сериал «Ликвидация», в котором главным героем стал боец легендарного 1-го Черноморского полка морской пехоты. Хоть это и вымышленный герой, но он наглядно продемонстрировал, что Одесса помнит своего легендарного защитника полковника Якова Ивановича Осипова, помнит и чтит его память.