ご質問をいただきありがとうございます。
以下、講師からの回答をお伝えします。
-----
85事件のロジックは、前訴において限定承認の有無について審理判断されているため既判力に準ずる効力が認められるというものです（ざっくり）。応用問題では、前訴において「限定承認の主張がされていない（＝限定承認の有無が審理判断されていない）」ため、準ずる効力の前提となる審理過程が存在しないことになります。そのため、前訴の判断が後訴に影響することがない、ということになります（前訴で何の判断もされてないため）。2つ目の理由付については、限定承認の主張は相殺の主張と同様に、原告の請求権（≒自働債権）の存在を認めた上での防御方法になりますので、前訴において主張することは難しい（主張したら負けだから主張する機会がない）ため後訴においては主張を認めないと可哀想ということになります。相殺とパラレルに考えて見てください。
※留保判決の場合は、実質敗訴の主張である限定承認の主張を前訴で行なっていることが前提ですので問題となりません。