1996年，在陈佩斯主演的电视剧《为了新生活前进》客串角色 。 1998年，出演许同均执导的电影《好汉三条半》 。 1999年，在电视剧《楼转乾坤》饰杨望金 。 2000年，在丁晟执导的电影《大惊小怪》中，饰演王天贵；同年在蔡明主演的电视剧《闲人马大姐》饰潘大庆 。 2001年，在《东北一家人》饰演金老二的哥哥金老大，并演唱《东北一家人》片尾曲 ；同年，在春晚与李琦、刘惠、尹相杰等人表演《康定情歌》 。 2002年，在电视剧《党员马大姐》饰潘大庆；同年在电视剧《爸爸叫红旗》饰经理 。 2003年，在李幼斌主演的电影《惊心动魄》饰演角色刘金山；同年在电视剧《前门楼子九丈九》饰佟六；后又在电视剧《二哥》饰王总；后又在在电视剧《小兵张嘎》中饰胖翻译，被观众熟识 。 2004年，在电视剧《人生几度秋凉》饰刘督办；后又在电视剧《国家形象》饰江东；同年刘金山受邀加盟央视春晚，与喜剧演员冯巩等合作表演小品《让一让，生活真美好》 。 2005年，在电视剧《追杀横路靖六》饰横路靖六；同年在电视剧《杨光的快乐生活1》客串铅笔厂厂长；后又在电视剧《谁为爱情买单》饰李查得父 。 2006年，和于荣光、童蕾合作，在电视剧《狼毒花》饰演母猪龙；同年在电视剧《杨三姐告状》饰陶钰；后又在电视剧《血色玫瑰》饰郑元龙 。 2007年，出演赵本山、宋丹丹主演的电影《落叶归根》，饰演黑店老板；同年在佟大为、马伊俐主演的电视剧《奋斗》中饰石康男友；后又在电视剧《闯关东》中饰吴掌柜 。 2008年，与刘桦搭档，主演电影《万家灯火》；同年在在电视剧《北方有佳人》饰张宗昌；同年又在电视剧《我是一棵小草》饰胖哥 。 2009年，在电视剧《中天悬剑》饰演韩东山；同年在刘惠宁执导的电视剧《我是业主》饰陈自强；后又在冯远征、陈冲主演的电视剧《人到中年》饰马科 。 2010年，在徐克执导的《狄仁杰之通天帝国》饰演薛勇 ；同年8月，在赵宝刚执导的电视剧《婚姻保卫战》中刘金山和于娜饰演一对“老夫少妻” 。 2012年，与演员英达、洪剑涛合作，加盟戏剧电影《我和你》 。 2011年，在郭富城、陈奕迅主演的电影《全球热恋》中饰演华叔；同年刘金山又受邀加盟央视春晚，与喜剧演员冯巩等合作表演相声剧《还钱》，这是他第二次登上春晚舞台；后又在在动画片《老夫子之小水虎传奇》为大蕃薯配音，这是他首播动画作品 。 2014年，在赵宝刚执导的青春偶像剧《青年医生》中搭档孙红雷上演了一出急诊室“情”缘 ；同期在辛柏青主演的电视剧《跟我回家》中饰演大老板张总；同年12月，由金依萌执导，刘金山主演的电影《一路惊喜》也在贺岁档上映 。 2015年1月，做为开年第一位嘉宾将做客北京文艺频道明星讲述栏目《光荣绽放》 。8月20日，刘金山与杨颖、倪妮合作喜剧电影《新娘大作战》上映。 同年，出演电视剧《糊涂县令郑板桥》，在剧中饰演利大反派范仁福。 2016年，参演抗战轻喜剧《边陲迷雾》 ，饰演赵满财 。 2019年10月22日，主演的电影《那一夜，我给你开过车》宣布定档11月15日。 。 2020年，出演邢潇执导，韩东君、彭小苒主演的电视剧《走起！我的天才街坊》，饰演曹大爷 。 2021年3月5日，出演陈建斌执导的电影《第十一回》上映 。 2021年6月18日，主演电影《了不起的老爸》上映 。 2021年与黄磊、刘奕君等合作出演的电视剧《张卫国的夏天》中饰演王总 ；大鹏导演的电影《洗白白》中饰演董事长 ；由奇道自编自导，靳东、王丽坤、张志坚领衔主演，王志文特别主演的近代谍战剧《无间》中饰演王本夫 。 2022年2月1日，参演的电视栏目情景喜剧《家和万事兴》播出 ；同日，参加2022北京广播电视台春节联欢晚会并演唱歌曲《寻找快乐》 ；2月5日，参演的冬奥献礼剧《冰雪之名》播出，饰演剧中的严森林 。
