相聲演員于謙祖上曾是皇親貴族，他算是一家世家子弟。即使清朝滅亡后，依然過得相對比較好，這多虧了他的父母。他的父親于莊敬退休前是大港油田地質勘探老總，母親是石油煉廠方面的專家。因此對于他們家而言，基本上不用為錢發愁，更不用為生活煩惱。
出生于這樣家庭的于謙，在考入北京戲曲學校相聲班學藝的時候，先后跟隨過王世臣、羅榮壽、高鳳山、趙世忠，在校期間跟隨等相聲演員學習過。后來拜在相聲藝術家石富寬門下。等到學業有成之后，在北京曲藝團跟中鐵文工團擔任過一段時間的相聲演員。
后來還參演了喜劇《編輯部的故事》、兒童奇幻劇《小龍人》、劇情喜劇《海馬歌舞廳》、傳記劇《馬三立》、《小井胡同》等作品，成為了一個小有名氣之人。后來在北京曲藝團擔任相聲演員的時候，跟當時借調來的郭德綱組成臨時搭檔，因此結下了緣分，之后還合作了不少的相聲。他們合作的相聲《你好北京》，曾經在北京相聲小品邀請賽上獲得了組委會特別獎。
等到北京曲藝團關閉后，于謙直接被調入中鐵文工團。后來選擇加入德云社，跟郭德綱結為固定搭檔。兩人之后合作了《楊乃武寫狀》、《學聾啞》、《怪治病》等相聲取得了非常不錯的效果，德云社在北京也慢慢有了一定的名氣。
