アンインストールしていただいて問題ございません。
なお、ゆうちょ手続きアプリは、会員登録せずにご利用いただくアプリですので、退会手続きは不要です。