Может ли он расторгнуть его, в любое для него подходящее время, или он должен это сделать в тот день

Да может. Ст. 36 Закона о "Государственной гражданской службе" -

Статья 36. Расторжение служебного контракта по инициативе гражданского служащего

1. Гражданский служащий имеет право расторгнуть служебный контракт и уволиться с гражданской службы по собственной инициативе, предупредив об этом представителя нанимателя в письменной форме за две недели.

2. В случае, если заявление гражданского служащего о расторжении служебного контракта и об увольнении с гражданской службы по собственной инициативе обусловлено невозможностью продолжения им исполнения должностных обязанностей и прохождения гражданской службы (зачислением в образовательное учреждение профессионального образования, выходом на пенсию, переходом на замещение выборной должности и другими обстоятельствами), а также в случае установленного нарушения представителем нанимателя законов, иных нормативных правовых актов и служебного контракта представитель нанимателя обязан расторгнуть служебный контракт в срок, указанный в заявлении гражданского служащего.

3. До истечения срока предупреждения о расторжении служебного контракта и об увольнении с гражданской службы гражданский служащий имеет право в любое время отозвать свое заявление. Освобождение гражданского служащего от замещаемой должности гражданской службы и увольнение с гражданской службы не производятся, если на его должность не приглашен другой гражданский служащий или гражданин.

4. По истечении срока предупреждения о расторжении служебного контракта и об увольнении с гражданской службы гражданский служащий имеет право прекратить исполнение должностных обязанностей.

5. В последний день исполнения гражданским служащим должностных обязанностей представитель нанимателя по письменному заявлению гражданского служащего обязан выдать гражданскому служащему трудовую книжку, другие документы, связанные с гражданской службой и пенсионным обеспечением, и произвести с ним окончательный расчет.

6. При расторжении служебного контракта и увольнении с гражданской службы гражданский служащий исключается из реестра гражданских служащих государственного органа, а его личное дело в установленном порядке сдается в архив этого государственного органа.

7. По соглашению между гражданским служащим и представителем нанимателя гражданский служащий может быть освобожден от замещаемой должности гражданской службы и уволен с гражданской службы ранее срока, указанного в настоящей статье.

8. По письменному заявлению гражданского служащего он освобождается от замещаемой должности гражданской службы и увольняется с гражданской службы после предоставления ему ежегодного оплачиваемого отпуска или после окончания периода его временной нетрудоспособности.