AfterEffectsからMediaEncorderで書き出しを選択して、出力形式H.264などに書き出しをしようとして、エラー -1609629695が出るときは、

1. エンコード方法をGPUからCPUに変更
2. AfterEffectsを終了してからMediaEncorderによるレンダリングを行う

で概ね解決しました。

原因はよくわからず

メモリの問題かなと思い、MediaEncorderのエンコード直前に、タスクマネージャーを開きメモリを食ってるアプリを確認すると、ぶっちぎりで多かったらAfterEffects閉じてから、MediaEncorderのレンダリングを試したところ解決。
ただ、レンダリング中にタスクマネージャーを見ると、バックグラウンドでAfterEffectsが立ち上がり、激しくメモリを消費していたので、不具合か我が家のスペックかイマイチわからないです。

AdobeのソフトでGPUを有効にするとだいたい問題が起こる

これは我が家のPCというかグラフィックカードGTX960の問題だと思うけど、AdobeのソフトでGPUを有効にするとだいたい問題が起こります。