ESXiから、ファイルサーバのボリュームとして使う部分と、バックアップの保管先として使うボリュームと分けて運用したいのですが、SynologyはiSCSIとNASを平行して利用することは可能でしょうか？

並行して利用可能です。
iSCSIのLUNの分け方はThinProvisiongとThickProvisioningの二種類ございます。
ThinProvisioningは柔軟性があり便利ですが、iSCSIとファイル共有で利用するボリュームが共有となってしまい、容量が上限を超えてしまった際にデータロストの可能性があります。

ThickProvisioningの方がシンプルで使用方法でのトラブルが起きにくい為、特段ThinProvisoining必須等の要件でなければ、ThickProvisioningを推奨いたします。