Cryptomatteは16bitに対応していません。
Cryptomatteを16bitはでレンダリングした場合Nukeで読み込むと正常に認識しませんので32bitのみ対応しています。
参考ページ:
https://github.com/Psyop/Cryptomatte/blob/master/specification/cryptomatte_specification.pdf
※NukeのCryptomatteは13バージョンから標準対応しています。13以前はプラグインをインストールする必要があります。