Рекомендуется ли предварительное определение долей в судебном порядке?

Если квартира в совместной собственности, то для продажи ее целиком в приницпе можно доли не выделять. Если выделять - то соглашением между участниками. Что касается покупки новой квартиры, то обязательно офрмите долевую собственность с мамой, иначе сами себя лишите собственности.

ГК РФ

Статья 244. Понятие и основания возникновения общей собственности

1. Имущество, находящееся в собственности двух или нескольких лиц, принадлежит им на праве общей собственности.

2. Имущество может находиться в общей собственности с определением доли каждого из собственников в праве собственности (долевая собственность) или без определения таких долей (совместная собственность).

5. По соглашению участников совместной собственности, а при недостижении согласия по решению суда на общее имущество может быть установлена долевая собственность этих лиц.

Статья 253. Владение, пользование и распоряжение имуществом, находящимся в совместной собственности

1. Участники совместной собственности, если иное не предусмотрено соглашением между ними, сообща владеют и пользуются общим имуществом.

2. Распоряжение имуществом, находящимся в совместной собственности, осуществляется по согласию всех участников, которое предполагается независимо от того, кем из участников совершается сделка по распоряжению имуществом.

3. Каждый из участников совместной собственности вправе совершать сделки по распоряжению общим имуществом, если иное не вытекает из соглашения всех участников. Совершенная одним из участников совместной собственности сделка, связанная с распоряжением общим имуществом, может быть признана недействительной по требованию остальных участников по мотивам отсутствия у участника, совершившего сделку, необходимых полномочий только в случае, если доказано, что другая сторона в сделке знала или заведомо должна была знать об этом.

4. Правила настоящей статьи применяются постольку, поскольку для отдельных видов совместной собственности настоящим Кодексом или другими законами не установлено иное.

Статья 254. Раздел имущества, находящегося в совместной собственности, и выдел из него доли

1. Раздел общего имущества между участниками совместной собственности, а также выдел доли одного из них могут быть осуществлены после предварительного определения доли каждого из участников в праве на общее имущество.

2. При разделе общего имущества и выделе из него доли, если иное не предусмотрено законом или соглашением участников, их доли признаются равными.

3. Основания и порядок раздела общего имущества и выдела из него доли определяются по правилам статьи 252 настоящего Кодекса постольку, поскольку иное для отдельных видов совместной собственности не установлено настоящим Кодексом, другими законами и не вытекает из существа отношений участников совместной

Вам нет необходимости определять доли в судебном порядке. Все трое собственников получают деньги за проданную квартиру. Возьмите с брата расписку в том, что он свою часть денег получил. Вы - двое других собственников - имеете право распоряжаться своими деньгами как считаете необходимым, в том числе купить квартиру. Я не вижу оснований в этом случае, почему бы брат имел какие-либо претензии в отношении новой квартиры. С уважением,