Pixologic時代の ZBrush RLM ライセンスサーバーセットアップのマニュアルを見ていると、

licenseVM.lic という名前が出てきます。

結論から言うと、既にこのライセンスファイルは使われておらず、現在一般的に使われているライセンスファイルで同じ機能を持ちます。

licenseVM.lic の「VM」はライセンスファイルが仮想マシン（Virtual Machine）で使えることを許可するためのものであり、現在使われているライセンスファイルに

LICENSE pixologic rlm_server_enable_vm 1.0 permanent 1 min_timeout=180

という一行が入っている場合は既にそのライセンスファイルが仮想マシンを許可していることを表します。