1975年2月，身患重病的周恩来总理给毛泽东呈上一份请示报告。报告建议：邓小平“主管外事，在周恩来总理治病疗养期间代表总理主持会议和呈批主要文件”。毛泽东批准了这个报告。这一举措像一把尖刀插在了急于抢班夺权的“四人帮”心上。急红了眼的王洪文跑到上海肆无忌惮地叫喊：“10年后再看。”是年，邓小平71岁，王洪文刚满40岁。
王洪文的话传到中南海。在71岁与40岁的比较中，邓小平显得格外清醒。他找到李先念等老同志交换对王洪文这句话的看法，说：“10年之后，我们这些人变成什么样子？从年龄上说，我们斗不过他们啊！”几个老革命家从王洪文的话中觉察到党和国家面临着一场潜在的危机，那就是：老一辈革命家大都年事已高，一旦撒手人寰，谁来接班？从此，接班人的问题伴随着王洪文的那句话就一直深深地刻在邓小平的脑海之中。
“文化大革命”结束后，伴随着拨乱反正和大规模平反冤假错案工作的展开，大批遭受迫害的干部纷纷走上各级领导岗位。但由于从反右运动到“文革”结束持续了20年，原来的年轻人早已进入中年，中年人也变成了老年人。面对着改革开放和四个现代化建设事业的繁重使命，一方面，干部队伍严重老化，力不从心；另一方面，因无位子，年轻干部又上不来。对此，邓小平敏锐地认识到，顺利完成新老干部交替是从组织上保证改革开放政策的连续性和国家长治久安的重大战略措施。新老交替的关键是要解决老同志占着位子的问题。中共中央顾问委员会就是在当时特殊的历史条件下，为解决干部系统吐故纳新而创造的一个过渡性的组织形式。
邓小平提出设顾问最早是从军队开始的。1975年7月14日，他在中央军委扩大会议上讲了在军队设顾问组的问题。他指出：“设顾问是一个新事物，是我们军队现在状况下提出的一个好办法。设顾问，第一关是谁当顾问，第二关是当了顾问怎么办？”“顾问组的组长，不参加党委，可以列席党委会，好同顾问组通气。其他待遇不变，但是配汽车、秘书要变一变。”“顾问也有权，就是建议权。顾问要会当，要超脱。不然，遇事都过问，同级党委吃不消。设了顾问，究竟会有什么问题，等搞年把子再来总结经验。”
1977年邓小平再次出来工作后，一次，他在中央党、政、军机关副部长以上干部会议上说：“现在我们搞四个现代化，急需培养、选拔一大批合格的人才。这是一个新课题，也是对老同志和高级干部提出的一个任务，就是要认真选好接班人。老干部现在大体上都是60岁左右的人了，60岁出头的恐怕还占多数，精力毕竟不够了，不然为什么有些同志在家里办公呢？为什么不能在办公室顶8小时呢？我们在座的同志中能在办公室蹲8小时的确实有，是不是占一半，我怀疑。我们老同志的经验是丰富的，但是在精力这个问题上应该有自知之明。就以我来说，精力就比过去差得多了，一天上午、下午安排两场活动还可以，晚上还安排就感到不行了。这是自然规律，没有办法。”邓小平接着说：“粉碎‘四人帮’以来，我们把老同志都陆续请回来了，并且大体上恢复了原来的或者相当于原来的职务。这样，我们的干部就多起来了。把老同志请回来是完全必要的，是非常正确的。现在我们面临的问题，是缺少一批年富力强、有专业知识的干部。而没有这样一批干部，四个现代化就搞不起来。我们老同志要清醒地看到，选拔接班人这件事情不能拖。否则，搞四个现代化就会变成一句空话。”
邓小平清醒地看到顾问制度只是一个出路，要真正解决问题不能只靠顾问制度，重要的是要建立退休制度。从1980年起，他就开始做退休的准备工作。这年8月，中央政治局召开了扩大会议，邓小平在会上作的《党和国家领导制度的改革》的讲话中透露：“中央正在考虑再设立一个顾问委员会，连同中央委员会，都由党的全国代表大会选举产生。这样就可以让大批原来在中央和国务院工作的老同志充分利用他们的经验，发挥他们的指导、监督和顾问的作用。同时，也便于使中央和国务院的日常工作更加精干，逐步实现年轻化。”
1981年7月2日，党的十一届六中全会的帷幕刚落下没几天，邓小平便又在各省、市、自治区党委书记座谈会上提到设顾问委员会以容纳一些老同志的设想，并说：“这是为后事着想。”1982年1月13日，邓小平在中央政治局会议上谈到要老同志让路，让中青年干部上来接班的问题时，把它比喻为“一场革命”，并疾呼：这场“革命”不搞，让老人、病人挡住比较年轻、有干劲、有能力的人的路，不只是四个现代化没有希望，甚至于要涉及到亡党亡国的问题。2月18日，邓小平在会见柬埔寨的诺罗敦·西哈努克亲王和夫人时又说，干部老化问题已经到了非解决不可的地步了。
此后，党的十二大通过了新的《中国共产党章程》，在新党章里明确了中共中央顾问委员会的组成原则和职能作用，即中顾委是中央委员会政治上的助手和参谋。邓小平在这次会上说：中顾委是个新东西，是根据中国共产党实际成立的，是解决我们这个党实现新旧交替的一种组织形式，目的是使中央委员会年轻化，同时让老同志退出一线后继续发挥一定的作用。他亲自担任了中顾委主任。
党的十三大召开前，邓小平、陈云、李先念等人共同约定“一起退下来，而且是一退到底。即退出中央委员会，不再担任任何职务”。彭真、邓颖超、徐向前、聂荣臻也要求“全退”。后来，经过中央政治局反复讨论，并征求多方意见，决定邓小平、陈云、李先念3人“半退”，即退出党的中央委员会，但仍担任一定职务——邓小平担任中央军委主席，陈云担任中顾委主任，李先念担任全国政协主席；彭真、邓颖超、徐向前、聂荣臻“全退”，即退出党的中央委员会，不再担任任何职务。在三老“半退”、四老“全退”的带动下，中央和各省、市、自治区又有一批老干部退出第一线的领导岗位，增选为中顾委委员和各省、市、自治区的顾问委员会委员，一批年轻干部走上了一线领导岗位。
1989年6月，党的十三届四中全会在北京召开。全会选举江泽民为中央委员会总书记，增选了中央政治局常委。9月4日，江泽民等几位中央领导前往邓小平的住处。邓小平和他们一一握手后，对大家开门见山地说：“今天主要是商量我退休的时间和方式。”他接着解释：“如果不退休，在工作岗位上去世，世界会引起什么反响很难讲。如果我退休了，确实不做事，人又还在，就还能起一点作用。”“我过去多次讲，可能我最后的作用是带头建立退休制度。我已经慢慢练习如何过退休生活，工作了几十年，完全脱离总有个过程。下次党代表大会不搞顾问委员会了，还是搞退休制度。……人老有老的长处，也有老的弱点。人一老，不知哪一天脑筋就不行了，体力到一定程度也要衰退。自然规律是不可改变的，领导层更新也是不断的。退休成为一种制度，领导层变更、调动也就比较容易。”
邓小平认为，实行退休的时机已经成熟，他坚定地表示：退休这件事就这样定下来吧。至于退的方式，邓小平认为，简化比较有利，“来个干净、利落、朴素的方式，就是中央批准我的请求，说几句话”。同一天，邓小平郑重地向中央政治局呈上了请求退休的报告，要求实现“全退”。这封不足700字的辞职信，字里行间无不体现着这位老党员对党、对国家、对人民的赤诚之心。
邓小平退休的问题最终被提交党的十三届五中全会讨论。经过激烈的讨论和大量的说明工作，代表们逐渐理解了邓小平请求退休的决心和意义。通过表决，全会接受了邓小平辞去中央军委主席职务的请求。消息传出，一直在家等候的邓小平如释重负，即刻驱车前往会场。他激动地说：感谢同志们对我的理解和支持，衷心感谢全会接受我的退休请求，衷心感谢同志们。
1989年11月9日晚，到了中央电视台《新闻联播》节目的时间，邓小平又坐到了电视机前。他知道，今晚《新闻联播》的内容与自己有关。果然，播音员那准确、抑扬的声音传了出来：“11月6日至9日，中国共产党第十三届中央委员会第五次会议在北京召开。全会讨论通过了《中国共产党十三届五中全会关于同意邓小平同志辞去中共中央军事委员会主席职务的决定》。全会高度评价邓小平同志对我们党和国家建立的卓著功勋。全会认为，邓小平同志从党和国家的根本利益出发，在自己身体还健康的时候辞去现任职务，实现他多年来一再提出的从领导岗位上完全退下来的夙愿，表现了一个伟大的无产阶级革命家的广阔胸怀。”
闻听这一消息，人们无不对这位中国改革开放伟大的总设计师身体力行，为废除干部领导职务终身制作出表率表示崇高的敬意。