Сайт доступен по mail.domen.com

В "Управление DNS зоной " прописать значение .

Какое значение?

Скрин DNS-записей приведи, затри домен и IP, если хочешь. Там у тебя явно лишнее что-то, или A-запись, или CNAME-запись. Надо удалить или поправить. Без скрина сложно сказать.

Это технологический поддомен, он создается при создании адреса доменной почты, его просто удалите в консоли, и на всякий случай сделайте 301 на основной домен, потому что при перезагрузке сервера, он может опять создаться, если хостер поставил свои настройки. 

Пробовал удалять, тогда почта перестает работать.

301 поставьте и забудьте о проблеме

Тоже думал об этом, если не найду другого решения наверное так и сделаю, спасибо.

Ну, по скрину у вас А запись для mail есть. Есть ли поддомен mail на сервере? У ISP по крайней мере раньше несуществующий поддомендомен отдавал основной. Создайте поддомен mail и бросьте заглушку или почтовый интерфейс типа раундкуба.

Если это ISP, надо создать фиктивный сайты и любым доменом и назначить его сайтом по умолчанию. Тогда заглушка этого сайта будет везде светиться.