UnityのOnRenderImageは、play mode時は毎フレーム呼ばれるけれど、edit mode時は必要な時のみ呼ばれるという実装になっているそうです。

Unity – Scripting API: ExecuteInEditMode
https://docs.unity3d.com/ScriptReference/ExecuteInEditMode.html

edit modeでOnRenderImageを呼び出したい場合は、

if (GUI.changed) {
  Repaint ();
}

のような感じで、Repaintを実行してみると良いようです。

UpdateやOnGUIでもedit modeとplay modeで挙動が変わるそうなので、気を付けてください。

リンク

Unity – Scripting API: ExecuteInEditMode
https://docs.unity3d.com/ScriptReference/ExecuteInEditMode.html

Unity – Scripting API: ExecuteInEditMode
https://docs.unity3d.com/ScriptReference/ExecuteInEditMode.html

When is Update called in edit mode? – Unity Answers
https://answers.unity.com/questions/122074/when-is-update-called-in-edit-mode.html