Как защитить свои права на проживание в собственном доме, когда бывшая жена и дети, прописанные по месту прописки матери, составляют препятствия и вызывают полицию

Вы вправе выселить жену и детей в судебном порядке.

Жилищный кодекс РФ.Статья 31. Права и обязанности граждан, проживающих совместно с собственником в принадлежащем ему жилом помещении

4. В случае прекращения семейных отношений с собственником жилого помещения право пользования данным жилым помещением за бывшим членом семьи собственника этого жилого помещения не сохраняется, если иное не установлено соглашением между собственником и бывшим членом его семьи. Если у бывшего члена семьи собственника жилого помещения отсутствуют основания приобретения или осуществления права пользования иным жилым помещением, а также если имущественное положение бывшего члена семьи собственника жилого помещения и другие заслуживающие внимания обстоятельства не позволяют ему обеспечить себя иным жилым помещением, право пользования жилым помещением, принадлежащим указанному собственнику, может быть сохранено за бывшим членом его семьи на определенный срок на основании решения суда. При этом суд вправе обязать собственника жилого помещения обеспечить иным жилым помещением бывшего супруга и других членов его семьи, в пользу которых собственник исполняет алиментные обязательства, по их требованию.

5. По истечении срока пользования жилым помещением, установленного решением суда, принятым с учетом положений части 4 настоящей статьи, соответствующее право пользования жилым помещением бывшего члена семьи собственника прекращается, если иное не установлено соглашением между собственником и данным бывшим членом его семьи. До истечения указанного срока право пользования жилым помещением бывшего члена семьи собственника прекращается одновременно с прекращением права собственности на данное жилое помещение этого собственника или, если отпали обстоятельства, послужившие основанием для сохранения такого права, на основании решения суда.