В конце 40-х семья переехала в Днепропетровск. В 1956 году Кобзон окончил там горный техникум. Первые публичные выступления состоялись на сцене этого учебного заведения. Кобзон исполнял песни дуэтом с будущим чемпионом Украинской ССР по бадминтону Борисом Баршаком.
С 1956 по 1959 год служил в армии, где был приглашен в ансамбль песни и пляски Закавказского военного округа. После увольнения в запас готовился к поступлению в Одесскую консерваторию. Его учителем пения был руководитель хора Днепропетровского дворца студентов Леонид Терещенко. Он устроил ученика на работу в бомбоубежище Днепропетровского химико-технологического института. Кобзон протирал спиртом противогазы за 50 рублей в месяц. Там певец и проработал до отъезда в Москву.
Кобзон поступил на вокальный факультет Музыкально-педагогического института имени Гнесиных (ныне Российская академия музыки имени Гнесиных), но впоследствии оставил учебу ради выступления на эстраде.
В 60-х годах сформировалась исполнительская манера певца — сочетание техники бельканто с непринужденностью, вниманием к слову, к поэтической интонации. Певческий голос полностью оформился к 70-м годам. Голос Кобзона — лирико-драматический баритон ясной высветленной окраски.
Кобзон ездил с концертами на ударные комсомольские стройки, активно боролся за мир во всём мире, неоднократно входил в состав официальных делегаций, посещающих зарубежные страны с визитами дружбы.
Знакомство с композитором Аркадием Островским позволило ему начать петь в дуэте с Виктором Кохно, затем Кобзон стал выступать сольно. В 1962 году в исполнении певца вышла первая пластинка песен композиторов Островского и Александры Пахмутовой. В 1964 году после появления в эфире песни Островского «А у нас во дворе», к нему пришла всесоюзная популярность.
Кобзон стал лауреатом конкурса в Сопоте в Польше, в 1965 году он принял участие в международном конкурсе «Дружба», который проходил в шести социалистических странах, и завоевал первые места в Варшаве, Берлине и Будапеште. В 1966 году стал лауреатом Всесоюзного конкурса исполнителей советской песни, в 1968 году — лауреатом международного конкурса «Золотой Орфей».
В 1959-1962 годах был солистом Всесоюзного радио, в 1962-1989 годах — солистом Госконцерта и Москонцерта.
Он записал порядка трех тысяч песен, в репертуаре — русские, украинские и еврейские народные песни. За время сценической жизни побывал с гастролями более, чем в 100 странах мира.
Параллельно с сольной карьерой в 1973 году окончил Государственный музыкально-педагогический институт имени Гнесиных, а в 1975 году — Университет марксизма-ленинизма МГК КПСС.
С 1984 года стал преподавать эстрадный вокал в Государственном музыкально-педагогическом институте имени Гнесиных (с 1993 — профессор). Среди учеников — певицы Ирина Отиева, Валентина Легкоступова, Марина Хлебникова, Валерия.
В 1989 году избран народным депутатом СССР. С 1997 года Иосиф Кобзон избирается депутатом Государственной Думы РФ. Является первым заместителем председателя комитета по культуре Государственной Думы седьмого созыва.
С 1980 года певец девять раз выезжал с концертами к воинам-интернационалистам в Афганистан, за что был награжден пятью афганскими медалями и орденом Дружбы народов.
В 1993 году баллотировался в Государственную Думу Федерального Собрания Российской Федерации первого созыва в составе федерального списка кандидатов, выдвинутого избирательным блоком «Гражданский союз во имя стабильности, справедливости и прогресса». На выборах в Думу блок потерпел поражение, заняв 10-е место из 13 и не сумев преодолеть 5-процентный барьер.
Через два года баллотировался в Государственную Думу Федерального Собрания Российской Федерации второго созыва в составе федерального списка кандидатов, выдвинутого избирательным объединением «Мое Отечество». По результатам голосования «Мое Отечество» также не преодолело 5-процентный барьер.
С 1995 года певцу был закрыт въезд в США из-за подозрений в связях с организованной преступностью. Неоднократные попытки получения американской визы, в том числе с использованием дипломатических каналов, к успеху не привели.
В сентябре 1997 года впервые избран депутатом Государственной Думы. В 1999 году вновь избран депутатом, стал членом депутатской группы «Регионы России (Союз независимых депутатов)», был избран заместителем председателя комитета по культуре и туризму.
Кобзон принимал участие в ведении переговоров с чеченскими террористами во время захвата заложников в культурном центре на Дубровке в Москве в 2002 году.
В июне 2002 года у певца начались проблемы со здоровьем. После операции у Кобзона начался сепсис и певец 15 июня впал в кому, в которой находился 15 дней.
В 2003 году вновь избран депутатом Государственной Думы, вошел во фракцию «Единая Россия», избран председателем комитета по культуре Государственной Думы.
В мае 2003 года решением министра внутренних дел Латвии был занесён в список лиц, которым запрещается въезд в страну. Запрет был обоснован «угрозой государственной безопасности и общественному порядку» и был снят в 2004 году.
В 2005 году певец перенес сложную операцию по удалению опухоли в клинике в Германии, хирургическое вмешательство привело к резкому ослаблению иммунитета, образованию тромба в легочных сосудах, воспалению легких и воспалению ткани в почках.
В 2007 году был избран депутатом Государственной Думы в составе федерального списка кандидатов, выдвинутого Всероссийской политической партией «Единая Россия» (Забайкальский край), вошёл в состав фракции «Единая Россия», избран заместителем председателя комитета по информационной политике, информационным технологиям и связи.
В 2009 году Кобзон был прооперирован вторично в немецкой клинике. В октябре 2010 года, выступая на Всемирном форуме духовной культуры в Астане, почувствовал себя плохо и дважды упал в обморок, так как раковая опухоль привела к анемии.
В 2011 году избран депутатом Государственной Думы ФС РФ VI созыва от Забайкальского края от партии «Единая Россия», член фракции «Единая Россия», первый заместитель председателя комитета по культуре.
В 2015 году СМИ сообщали, что Кобзон более не намерен переизбираться в Госдуму. В 2016 году его избрали депутатом Государственной думы VII созыва в составе федерального списка «Единой России». Занимал должность первого заместителя председателя комитета по культуре.
В феврале 2016 года Кобзон выступал перед служащими ВКС РФ на авиабазе «Хмеймим» в Сирии.
После смены власти на Украине в 2014 году и присоединения Крыма к РФ Кобзон подписал обращение деятелей культуры Российской Федерации в поддержку политики президента Владимира Путина по Украине и Крыму.
«Крым всегда был российским, и то, что его удалось вернуть без единого выстрела, без единой жертвы, — лишнее тому подтверждение. Это единодушное решение народа. Люди по сей день продолжают ликовать по поводу возвращения домой», — говорил Кобзон.
В этом же году Латвия запретила певцу въезд на территорию страны, объяснив запрет «содействием подрыву территориальной целостности и суверенитета Украины».
Служба безопасности Украины запретила Кобзону въезд в страну. Певец сказал, что ему «плевать на то, что они придумали с пьяных глаз», и он поедет на свою родину в Донбасс. На следующий день он посетил Донецк и Луганск, передал землякам гуманитарную помощь и выступил с концертами.
Кроме того, Кобзона лишили звания «почётный гражданин» ряда городов Украины. Горсовет Днепропетровска также решил, что он не должен исполнять официальный гимн города.
В 2015 году певца включили в список лиц, которых ЕС считают ответственными за дестабилизацию ситуации на востоке Украины. Попавшим в санкционный список запрещён въезд в ЕС, а их активы на его территории, если таковые будут обнаружены, будут заморожены.
В 2016 году получил гражданство ДНР. В 2018 году был лишен украинских госнаград.
В конце июля 2018 года певец снова был госпитализирован. 30 августа 2018 года было сообщено о смерти Иосифа Кобзона.
