Как определить долю в недвижимости, принадлежащей бывшей жене и детям?

Да, в судебном порядке.

Статья 36 Имущество каждого из супругов

1. Имущество, принадлежавшее каждому из супругов до вступления в брак, а также имущество, полученное одним из супругов во время брака в дар, в порядке наследования или по иным безвозмездным сделкам (имущество каждого из супругов), является его собственностью.

Статья 37 Признание имущества каждого из супругов их совместной собственностью

Имущество каждого из супругов может быть признано их совместной собственностью, если будет установлено, что в период брака за счет общего имущества супругов или имущества каждого из супругов либо труда одного из супругов были произведены вложения, значительно увеличивающие стоимость этого имущества (капитальный ремонт, реконструкция, переоборудование и другие). 

Статья 38 Раздел общего имущества супругов

1. Раздел общего имущества супругов может быть произведен как в период брака, так и после его расторжения по требованию любого из супругов, а также в случае заявления кредитором требования о разделе общего имущества супругов для обращения взыскания на долю одного из супругов в общем имуществе супругов.

2. Общее имущество супругов может быть разделено между супругами по их соглашению. По желанию супругов их соглашение о разделе общего имущества может быть нотариально удостоверено.

3. В случае спора раздел общего имущества супругов, а также определение долей супругов в этом имуществе производятся в судебном порядке. 

Статья 39 Определение долей при разделе общего имущества супругов

1. При разделе общего имущества супругов и определении долей в этом имуществе доли супругов признаются равными, если иное не предусмотрено договором между супругами.

2. Суд вправе отступить от начала равенства долей супругов в их общем имуществе исходя из интересов несовершеннолетних детей и(или) исходя из заслуживающего внимания интереса одного из супругов, в частности, в случаях, если другой супруг не получал доходов по неуважительным причинам или расходовал общее имущество супругов в ущерб интересам семьи.

3. Общие долги супругов при разделе общего имущества супругов распределяются между супругами пропорционально присужденным им долям.