Работник таможенной службы задается вопросом - может ли он уйти в отпуск по уходу за ребенком перед окончанием контракта

Можете, до даты увольнения. Поскольку иного в законе о таможенной службе не предусмотрено, надо пользоваться нормами этой статьи. А увольнение по истечению срока действия контракта - не увольнение по инициативе работодателя.

Статья 261 ТК РФ.

Гарантии беременной женщине и лицам с семейными обязанностями при расторжении трудового договора

Расторжение трудового договора с женщиной, имеющей ребенка в возрасте до трех лет, с одинокой матерью, воспитывающей ребенка-инвалида в возрасте до восемнадцати лет или малолетнего ребенка - ребенка в возрасте до четырнадцати лет, с другим лицом, воспитывающим указанных детей без матери, с родителем (иным законным представителем ребенка), являющимся единственным кормильцем ребенка-инвалида в возрасте до восемнадцати лет либо единственным кормильцем ребенка в возрасте до трех лет в семье, воспитывающей трех и более малолетних детей, если другой родитель (иной законный представитель ребенка) не состоит в трудовых отношениях, по инициативе работодателя не допускается (за исключением увольнения по основаниям, предусмотренным пунктами 1, 5 - 8, 10 или 11 части первой статьи 81 или пунктом 2 статьи 336 настоящего Кодекса).