1949年时，于右任被蒋介石派人挟持到了台湾，继续担任“监察院院长”等高职。他几次提出辞职，但蒋介石需要于右任为他装点门面，所以拒绝了。

上世纪50年代的台湾，经济凋敝。当时的“行政院长”俞鸿钧却为少数国民党上层官员加薪，民众对此意见很大。有人上书“监察院”，揭露俞鸿钧生活奢侈。“监察院”的“委员”们，纷纷向俞鸿钧提出质询，并多次约他来“监察院”回答质询，他都置之不理。“监察院”派人到 “中央银行”和“行政院”查账，又被拒之门外。俞鸿钧的所作所为，激起了于右任的愤慨。1957年12月，于右任亲自主持会议，通过了对俞鸿钧的弹劾，并将弹劾内容向新闻界公布，搞得俞鸿钧很狼狈。

事情闹到了蒋介石那里，蒋很不高兴。1958年1月16日，蒋介石召集会议，大发脾气，认为“监察委员”们瞎胡闹。从那以后，于右任寄情于诗词书法，对“监察院”的事很少过问。

随着时间的推移，于右任越来越想念故乡与亲人，后来慢慢病倒了。1964年9月的一天，他的老部下，原台湾“监察院”秘书长、后任“考试院副院长”的杨亮功，到台北荣民总医院看望他，问：“您老有什么事吩咐我？”

于右任很想说话，但由于病重和喉咙发炎而无法讲出，只好用手势表达自己的意思。他先伸出—个指头，接着又伸出三个指头。杨亮功不解其意，只好猜测地问道：“院长，您是不是不放心三公子于中令？”于右任摇摇头。杨亮功又猜了一次，也不准确。最后，他只好说：“院长，等您身体好一些后，我再来问您，好吗？ ”

1964年11月10日晚，于右任病故，终年86岁。于右任去世后，杨亮功向资深报人陆铿提起此事。陆铿反复考虑后，提出一种解法，认为于右任的“一个指头”是指祖国统一，“三个指头”代表三原县。合在一起就表示：将来中国统一了，请将他的灵柩运回大陆，归葬于陕西三原县故里。这一解释得到大多数人的认同。