1979年，刚上大二的张铁林参与拍摄中央电视台的第一部单集电视剧《有一个青年》，在片中扮演男主角顾明华，80年主演对越反击战影片《年轻的朋友》。
1983年，出演香港导演李翰祥执导，梁家辉、刘晓庆主演的历史电影《火烧圆明园》、《垂帘听政》。同年与龚雪合作电影《大桥下面》出演见义勇为的男主角，该片获得文化部故事片一等奖。两年后再次与龚雪合作拍摄了电影《多彩的晨光》。
1987年，赴英国留学，四年半后他留校任教。此后为BBC拍摄纪录片，给好莱坞导演乔治·卢卡斯《印第安纳琼斯》当副导演，他拍摄的短故事片《外国人》获得了英国学院奖。
1990年初，从英国到香港，加入徐克香港电影工作室，在《黄飞鸿1》中演孙中山，后又出演《黄飞鸿3》及《仙鹤神针》等。演戏的同时他还写剧本，《山不转水转》、《孙子》、《椅子》，五年中荣获台湾三届“优良电影剧本奖。
1995年，张铁林在动画电影《狮子王2》中为辛巴配音。
1996年，张铁林在刚开播的凤凰卫视主持节目《电影世界》。之后进入内地，与赵明明、袁莉、赵薇主演古装宫斗剧《汉宫飞燕》。
1998年，与赵薇、林心如、苏有朋主演古装清朝喜剧《还珠格格》饰演乾隆，为观众所熟知，之后出演了《还珠格格2》 。
2001年，搭档张国立、王刚主演古装剧《铁齿铜牙纪晓岚》饰演乾隆，之后三人形成“铁三角”，主演了《铁齿铜牙纪晓岚》系列的2、3、4部 ，以及古装剧《布衣天子》 、《少年宝亲王》、《宋莲生坐堂》 和民国剧《五月槐花香》。
2002年，在张卫健、严宽、苏有朋主演的古装喜剧《少年张三丰》中饰演澄空大师。同年联合斯琴高娃、李芯逸主演家庭情感剧《众里寻她千百度》饰林海涛。
2003年，在苏有朋、贾静雯主演的金庸武侠剧《倚天屠龙记》中饰演“光明左使”杨逍。搭档吴奇隆、范冰冰主演武侠剧《名捕震关东》。同年在焦恩俊、胡静主演的古装神话剧《十八罗汉》中饰演老方丈。
2004年，搭档李立群、李诚儒主演古玩题材剧《人生几度秋凉》，并演唱片尾曲。在吴京、袁咏仪、淳于珊珊主演的动作剧《南少林三十六房》中饰演雍正。在徐峥、张庭、汪芫主演的清朝喜剧《满汉全席》中饰演康熙。
2006年，联合孙兴、曹颖主演古装喜剧《铁将军阿贵》。在保剑锋、金巧巧主演的古装励志剧《薛仁贵传奇》中饰李道宗。参与霍建华、孙俪主演的偶像剧《屋顶上的绿宝石》。
2007年，在唐国强、聂远主演的历史剧《贞观长歌》中饰罗艺。与斯琴高娃、温峥嵘主演历史古装剧《无字碑歌》饰唐高宗李治。与吕丽萍共同主演情感剧《非常夫妻》。在范冰冰、赵文瑄主演的古装剧《大唐芙蓉园》中饰演李白。
2009年，联合郭富城、郝蕾主演电影《白银帝国》饰康老太爷。
2010年，搭档唐国强、刘劲、郑卫莉主演人物传记题材剧《黄炎培》饰黄炎培。
2011年，在历史古装剧《新水浒传》中饰演洪太尉。在唐国强、蒋勤勤主演的历史剧《中国1945之重庆风云》中再次饰演黄炎培。参与胡歌、陈意涵主演的青春励志时尚剧《摩登新人类》。在陈坤、张雨绮主演的电影《钱学森》中饰演毛泽东。
2012年，在苗圃、罗晋主演的历史传奇古装剧《穆桂英挂帅》中饰演宋真宗。与王志文、霍建华主演医疗题材剧《感动生命》。主演革命史诗历史剧《红军东征》饰毛泽东。与曹曦文、马跃主演古装剧《黄梅戏宗师传奇》。
2013年，参与拍摄廖京生、高云翔主演的抗战剧《刀影》中饰演彭振山。
2014年，担纲历史剧《文房四宝》的总导演并领衔主演，该剧是以“中国文房四宝之乡”—安徽宣城和“徽文化”、“徽商”为背景。
2016年10月，张铁林做客北京卫视书画鉴赏文化节目《我爱书画》。
2017年1月，参加在京举行的优秀华语网络影视作品推介会 ；参加高能达人秀节目《我爱二次元》；6月，原创街头互动挑战脱口秀节目《真星话大冒险》。
2018年2月，参加湖南卫视声音魅力竞演秀《声临其境》。
2019年10月，张铁林出演的《小山河》杀青。