Как лишить отца родительских прав, если он не общается с ребёнком и клевещет в наш адрес?

Исходя из описанной ситуации, нет. Он выполняет свои обязанности, связанные с содержанием ребенка.

"Семейный кодекс Российской Федерации" от 29.12.1995 N 223-ФЗ (ред. от 29.05.2019)

СК РФ Статья 69. Лишение родительских прав

Родители (один из них) могут быть лишены родительских прав, если они:

уклоняются от выполнения обязанностей родителей, в том числе при злостном уклонении от уплаты алиментов;

отказываются без уважительных причин взять своего ребенка из родильного дома (отделения) либо из иной медицинской организации, образовательной организации, организации социального обслуживания или из аналогичных организаций;

(в ред. Федеральных законов от 24.04.2008 N 49-ФЗ, от 25.11.2013 N 317-ФЗ, от 28.11.2015 N 358-ФЗ, от 28.03.2017 N 39-ФЗ)

(см. текст в предыдущей редакции)

злоупотребляют своими родительскими правами;

жестоко обращаются с детьми, в том числе осуществляют физическое или психическое насилие над ними, покушаются на их половую неприкосновенность;

являются больными хроническим алкоголизмом или наркоманией;

совершили умышленное преступление против жизни или здоровья своих детей, другого родителя детей, супруга, в том числе не являющегося родителем детей, либо против жизни или здоровья иного члена семьи.