公开资料显示，1984年7月加入中国共产党的张国清于次年9月参加工作。1987年到1998年，张国清在中国北方工业公司从一名项目经理一步步升至中国北方工业公司党委书记、副总裁。1999年始，张国清进入中国兵器工业集团公司，于2008年出任中国兵器工业集团公司总经理。2012年张国清当选为中共第十八届中央委员，同时也是9位“60后”中央委员之一，这在当时的省级党委副书记中并不多见。

张国清担任兵器工业集团总经理期间，兵器工业集团于2011年成为首家营业收入迈上3000亿元新台阶的军工集团，他也因此被誉为“兵工少帅”。2012年兵器工业集团公司列世界500强企业第205位，当年实现主营业务收入3510亿元。2013年张国清在离开兵器工业集团时曾感慨地表示，其入职兵器工业集团近三十年，和整个兵器工业集团的队伍共同推动了兵器工业的发展成长，并形成了独有的兵工文化。