Каким образом обязать должника продать свою долю в квартире по суду?

Никак; ГК РФ Статья 252. Раздел имущества, находящегося в долевой собственности, и выдел из него доли

""1. Имущество, находящееся в долевой собственности, может быть разделено между ее участниками по соглашению между ними.

""2. Участник долевой собственности вправе требовать выдела своей доли из общего имущества.

""3. При недостижении участниками долевой собственности соглашения о способе и условиях раздела общего имущества или выдела доли одного из них участник долевой собственности вправе в судебном порядке требовать выдела в натуре своей доли из общего имущества.

Если выдел доли в натуре не допускается "законом" или невозможен без несоразмерного ущерба имуществу, находящемуся в общей собственности, выделяющийся собственник имеет право на выплату ему стоимости его доли другими участниками долевой собственности.

""4. Несоразмерность имущества, выделяемого в натуре участнику долевой собственности на основании настоящей статьи, его доле в праве собственности устраняется выплатой соответствующей денежной суммы или иной компенсацией.

""Выплата участнику долевой собственности остальными собственниками компенсации вместо выдела его доли в натуре допускается с его согласия. В случаях, когда доля собственника незначительна, не может быть реально выделена и он не имеет существенного интереса в использовании общего имущества, суд может и при отсутствии согласия этого собственника обязать остальных участников долевой собственности выплатить ему компенсацию.

""5. С получением компенсации в соответствии с настоящей статьей собственник утрачивает право на долю в общем имуществе.