На протяжении целой эпохи Черномырдин оставался вторым лицом в государстве и окончательно покинул большую российскую политику только в 1998 году, когда его кандидатуру, в очередной раз предложенную Ельциным на пост премьера, категорически отклонила Госдума. Новым председателем правительства тогда стал Евгений Примаков, а Черномырдин перешел в Госдуму.

10 мая 2001 года Черномырдин был назначен чрезвычайным и полномочным послом России на Украине, а также специальным представителем президента по развитию торгово-экономических отношений между странами.

Хотя позднее в интервью политик неоднократно говорил, что главной его задачей было укрепление и развитие экономических связей между странами, он явно лукавил. Назначение такого мощного политического тяжеловеса символизировало новый этап политики в отношении Украины.

Хотя при распаде СССР страны разошлись в целом мирно, между Россией и Украиной оказалось немало болевых точек и нерешенных вопросов: Крым и Черноморский флот, газовый транзит в Европу (Украина была монополистом в этой сфере).

Кучма, в соответствии с поговоркой про ласкового теленка, лавировал между Россией и западными странами, пытаясь получить максимум и с тех, и с других. Россия же все 90-е годы сотрясалась политической и экономической нестабильностью, и Ельцин был гораздо сильнее поглощен внутриполитическими проблемами, чем внешними вопросами.

Достаточно сказать, что первым в истории российским посланником в Киеве был бывший преподаватель Высшей партийной школы при ЦК КПУ Леонид Смоляков, который всю жизнь провел на Украине, в Москву переехал почти в 50 лет, да и то почти сразу вернулся обратно в Киев.

Между тем, Украина подошла к этому вопросу куда серьезнее. Ее первый посол Владимир Крыжановский в 1993 году провел в московском посольстве конференцию по теме «Голодомор — геноцид украинского народа», участников которой угощали корочками черствого хлеба дети в вышиванках. Он также запомнился упорной борьбой за передачу Украине «мазепиных палат» на Маросейке.

Словом, все 90-е Москва была погружена в свои проблемы и не замечала или не хотела замечать, что расклады изменились, и Киев ушел не понарошку, а всерьез и основательно.

Назначение Черномырдина стало по сути единственной серьезной попыткой включить soft power на Украине. Для главного инструмента мягкой силы Черномырдин подходил идеально. Во-первых, он был политиком мирового уровня, долгие годы оставаясь вторым лицом такого государства, как Россия. Во-вторых, он был в хороших отношениях с президентом Кучмой и прекрасно знал его еще по работе в 90-е годы. В-третьих, Черномырдин стоял у истоков «Газпрома», а газовый транзит оставался одной из главных болевых точек в отношениях между странами. В-четвертых, он был попросту харизматичной и заметной фигурой, его любили журналисты, а его афоризмы прекрасно помнят до сих пор.

В первый период пребывания Черномырдина в Киеве удалось достичь пиковой точки в отношениях между странами за первое постсоветское десятилетие. Было получено принципиальное согласие Кучмы на участие в Едином экономическом пространстве.

Идея нового интеграционного проекта активно прорабатывалась с начала нулевых годов. Союз распался, конфедерация была уже невозможна, а СНГ оказался мертворожденным. Новый проект предусматривал в первую очередь экономическую интеграцию части постсоветского пространства. В 2003 году лидеры России, Украины, Белоруссии и Казахстана подписали соглашение о намерениях создания ЕЭП.

Однако все изменила Оранжевая революция

Одним из главных аргументов против Януковича как раз и послужил тот факт, что он заявлял себя рьяным сторонником экономической интеграции. Первый Майдан оказал колоссальное влияние на обстановку в обеих странах и привел к резкому ухудшению отношений, особенно после того, как Ющенко развернул курс на европейскую интеграцию. Снова обострились газовые споры и, казалось бы, уже урегулированный вопрос с Черноморским флотом.

Многие тогда ставили Оранжевую революцию в вину Черномырдину и считали, что вопрос его отставки — дело нескольких недель. Однако отставки не последовало, да и вряд ли Черномырдин мог что-то изменить.

Обычно Черномырдин аккуратно высказывался по политическим вопросам, но на закате своей дипломатической карьеры дал огненное и предельно откровенное интервью, которое закончилось международным скандалом:

— Сейчас США готовы сэкономить на экономической и политической поддержке Украины?
— Я не думаю. Теперь там новая администрация, мы не знаем, как пока. Хотя мы слышим только украинскую сторону, что они вот там уже и с Хиллари переговорили… Но в одном я уверен: они Украину не отпустят. И в НАТО потащат, и сами в газотранспортную систему полезут.
— У России нет никаких шансов переиграть Америку в Украине?
— Нет, мы не умеем это делать.
— Неужели не научились?
— А мы разве учимся? Мы же не учимся. У них работают, неудобно даже и говорить, более 2 тысяч фондов. Везде. С газетами, с телевидением. Гранты дают. Они приглашают к себе, просто тащат на учебу, бесплатно. В Минобороны сидят американские представители. Открыто работают. Они уже давно все переписали на натовские дела.
Вот у нас все еще некоторые говорят: куда Украина от нас денется? Денется! Еще как!
— Что с Крымом будет? Нас выпирают из Севастополя…
— Никто нас оттуда не выпирает.
— Сказали, чтоб уходили в 2017 году. И все. На маяках постоянно осада идет…
— Слушай, с этим украинским руководством договориться нельзя. Придут другие люди — посмотрим…
— Янукович — это тот человек, который нам нужен?
— Трудно сказать. С ним можно говорить. Но доверять никому нельзя.

После этого интервью министр иностранных дел Украины Огрызко выступил с инициативой объявить Черномырдина персоной нон грата и вызвал к себе на ковер, чтобы заявить протест и пригрозить изгнанием. Однако в итоге все закончилось отставкой самого Огрызко, который был человеком Ющенко. Оппозиционная Ющенко Рада обвинила министра в том, что он намеренно провоцирует ухудшение отношений между странами, и добилась его отставки.

Однако и сам Черномырдин не доработал 2009 год. Летом он перешел на должность советника президента Медведева. Наиболее вероятным сменщиком Черномырдина в Киеве называли бывшего посла в Британии и заместителя министра иностранных дел Григория Карасина, однако ко всеобщему удивлению новым послом стал экс-министр здравоохранения Михаил Зурабов, вообще не имевший дипломатического опыта. Второй Майдан в Киеве случился уже при нём.