1970年当选十大杰出青年，1975年就任驻萨尔瓦多大使，三年後返台任国民党中央委员会青年工作会主任，此後从政路顺遂，一路擢昇，曾任交通部长、国民党中常委、行政院副院长、外交部长等职。1990年任台湾省主席，1993年为李登辉总统任命为行政院长，1996年与李登辉一同当选首任民选正副总统。连战因家世背景显赫，在选战中常被人认为不够亲民，加上不擅竞选言辞与掌握观众情绪，群众魅力明显不如其竞争对手。
2000年与陈水扁竞选总统失败，在野担任国民党主席，2004年与宋楚瑜搭档参选总统，仍以些微差距落败，但在国民党的领导地位仍稳固。2005年将党主席交接给马英九，此後以荣誉主席的身分访问中国大陆。其子连胜文任国民党中常委，在政坛上仍有一定影响力。