検証目的でMDaemonの導入を行っているのですが、DNSサーバがない環境でもインストールや動作は行えますか?

はい、基本的な動作確認を行っていただく分には別途DNSサーバをご用意いただく必要はありません。
ドメイン名には実在しないドメイン名、例えば「sample.local」のような形で設定いただければ基本的な動作を行っていただくことが可能です。