После смерти матери дочь и сын идут к нотариусу с заявлением что-бы разделить долью матери в квартире на двойих

нотариус правильно разъяснил.

Вы подали заявление, этого достаточно можно считать что вы вступили в наследство точка.

дочь подписывает - что именно подписывает дочь, то что она получила свидетельство или что?

Вы вступили в наследство.

Сыну в этом случае надо обращаться в суд.

Надо смотреть документ, который отказался подписать сын умершего. Что он отказался подписать? Принял он наследство или нет? Если принял одним из двух возможных способов (подачей заявления нотариусу или фактическими действиями), то 1/2 доля уже считается его собственностью, даже если он откажется получать свидетельство о праве на наследство и оформлять дальше документы на имущество. Принятая доля так и будет считаться его имуществом всю его жизнь и может перейти его наследникам.

Если сын умершего хочет всю долю в квартире, то у него должны быть на это законные основания, например, преимущественное право. Если такое право есть (надо документы смотреть), можно обращаться в суд с иском к сестре. Если преимущественного права нет, можно в некоторых случаях без этого права получить всю долю также по решению суда (с предоставлением сестре компенсации).

В общем, нужны подробности о наследстве.

По общему правилу, срок для принятия наследства составляет шесть месяцев со дня смерти. В течение это срока наследники вправе принять наследство путем подачи заявления нотариусу или фактически (например, совместная регистрация с умершим по месту жительства и др.). Следовательно, если сын не успеет уложиться в этот срок, то все наследственное имущество может достаться дочери.