1949年時，于右任被蔣介石派人挾持到了臺灣，繼續擔任“監察院院長”等高職。他幾次提出辭職，但蔣介石需要于右任爲他裝點門面，所以拒絕了。

上世紀50年代的臺灣，經濟凋敝。當時的“行政院長”俞鴻鈞卻爲少數國民黨上層官員加薪，民衆對此意見很大。有人上書“監察院”，揭露俞鴻鈞生活奢侈。“監察院”的“委員”們，紛紛向俞鴻鈞提出質詢，並多次約他來“監察院”回答質詢，他都置之不理。“監察院”派人到 “中央銀行”和“行政院”查賬，又被拒之門外。俞鴻鈞的所作所爲，激起了于右任的憤慨。1957年12月，于右任親自主持會議，通過了對俞鴻鈞的彈劾，並將彈劾內容向新聞界公佈，搞得俞鴻鈞很狼狽。

事情鬧到了蔣介石那裏，蔣很不高興。1958年1月16日，蔣介石召集會議，大發脾氣，認爲“監察委員”們瞎胡鬧。從那以後，于右任寄情於詩詞書法，對“監察院”的事很少過問。

隨着時間的推移，于右任越來越想念故鄉與親人，後來慢慢病倒了。1964年9月的一天，他的老部下，原臺灣“監察院”祕書長、後任“考試院副院長”的楊亮功，到臺北榮民總醫院看望他，問：“您老有什麼事吩咐我？”

于右任很想說話，但由於病重和喉嚨發炎而無法講出，只好用手勢表達自己的意思。他先伸出—個指頭，接着又伸出三個指頭。楊亮功不解其意，只好猜測地問道：“院長，您是不是不放心三公子於中令？”于右任搖搖頭。楊亮功又猜了一次，也不準確。最後，他只好說：“院長，等您身體好一些後，我再來問您，好嗎？ ”

1964年11月10日晚，于右任病故，終年86歲。于右任去世後，楊亮功向資深報人陸鏗提起此事。陸鏗反覆考慮後，提出一種解法，認爲于右任的“一個指頭”是指祖國統一，“三個指頭”代表三原縣。合在一起就表示：將來中國統一了，請將他的靈柩運回大陸，歸葬於陝西三原縣故里。這一解釋得到大多數人的認同。