3dsMax2017Update1以降、基本機能からmental rayが消えます。
mental rayはプラグインの扱いとなった為、インストーラをダウンロードしてインストールする必要があります。
インストーラーはautodesk accountにログインして頂き3dsMaxのダウンロードを開きます。
「更新プログラムとアドオン」を開き以下のファイルをダウンロードします。

ファイル名：NVIDIA mental ray and IRay rendering plugin for 3ds Max 2017.1 Update

次にプログラムをアンインストールします。
「NVIDIA mental ray and IRay rendering plugins 3ds Max 2017」

アンインストール後ダウンードした「Mentalray_Update1.exe」を実行しインストールを行います。

これで3dsMax 2017 Updateからmental rayを使用する事が出来ます。
なお、3dsMax2017を起動し、レンダリング設定にmental rayがいない場合は、以下の「2017 - 64bit」フォルダを
削除し3dsMaxを初期化してください。

C:\Users\(ユーザー名)\AppData\Local\Autodesk\3dsMax\