Настройка своих DNS на VDS - простой вроде бы вопрос

Оба неправильные.

Для начала нужно создать ns1/ns2 записи, а потом скорее по второму варианту.

ns1 и ns2 направлены на мои IP

учитывая это второй вариант верный?

Ajiotaj,

должно быть так:

В чем проблема поменять зону и потестить, сделали изменения, и тут же запрос прямой на DNS отправили например :

Оба правильные, почти (Пропущено IN). Еще можно корень домена обозначать как @:

@ IN NS ns1.mysite.ru.

выдало сайт и IP, похоже что работает нормально

я через ISPManager настраиваю, или в нем тоже IN нужно писать в одном из полей?

Не знаю про ISPManager. Думаю, не надо. Я про синтаксис файлов зон в bind писал.

ISPmanager пропишет все сам. Вам только надо добавить по описанной выше схеме две А-записи, и две NS-записи.

По моему запросу должно было выдать NS Сервера по зоне которую вы запрашиваете вообще-то :D

Например вот так:

Это говорит о том, что за зону "onyx.net.ua" отвечает 2 ДНС сервера которые я в ней указал, ну дальше можно сделать например вот так:

т.е спросить о наличии прямых записей "A", на тему ns1.domain.com / ns2.domain.com у того же ДНС-а , причем спрашивать можно и у второго сразу что бы понимать как работает Slave и получил ли он зону от мастера.