Часто бывает, что нейросеть игнорирует просьбу пользователя и вместо женского вокала песню поёт мужчина, либо наоборот.

может такую песню петь

Здравствуйте. В указанной Вами ситуации, без заключения судебной лингвистической экспертизы - не обойтись. Ни суд, ни прокурор не обладают специальными познаниями в области лингвистики. Из диспозиции ст. 6.21 КоАП РФ следует, что ответственность может наступить за пропаганду нетрадиционных сексуальных отношений или предпочтений, выразившаяся в распространении информации или совершении публичных действий, направленных на формирование нетрадиционных сексуальных установок, привлекательности нетрадиционных сексуальных отношений или предпочтений. В свою очередь, целью исследования экспертов в данном случае будет выявление смыслов, выраженных в исследуемых текстах, анализ этих смыслов с разных точек зрения; установление объема и содержания понятия, выражаемого словом или словосочетанием, употребленным в тексте; установление степени адекватности передачи в одном тексте содержания другого текста. Т.е., если у Вас формальный вопрос о том, можно ли "докопаться", то ответ - очевидно, Да, можно. Авторская это песня или нет, вопрос о квалификации содеянного также будет зависеть от заключения эксперта насколько в этом "произведении" отображение текста направлено на формирование нетрадиционных сексуальных установок.