顾问又是一种职务，而且它的级别不低于同级党委成员，让老同志把自己的椅子移到这种地方，工作比较好做。然而，顾问的头衔不单是起安慰作用，还有“传、帮、带”的责任。邓小平的这一层谋略用意很深。因为当时的中国领导班子不仅存在老化问题，还存在断层问题。“文革”影响了一代人，在这种情况下，老同志一下子将工作丢开不管也不行，必须在离开前选好接班人，并把他们放到领导岗位上加以扶植。接班人在一线顶事，老同志则利用他们的经验在二线上做参谋，必要时指导指导，发现选的人不适当就换人。到时年轻人成熟了，老同志放心了，顾问制自动取消，终身制到此为止，过渡到常规退休制，新老交替顺利完成。
但当时有部分老干部对此不甚理解，认为老干部刚恢复工作又要离休，屁股还没有坐热，中央对老干部不公正。还有一些人甚至认为，三四十岁的人是“文革”经历者，他们没学到什么东西，提拔干部没他们的份儿。看来，邓小平还得做一些劝说工作。
真正考虑成熟并下定决心设立顾问委员会是在党的十二大召开前夕。1982年2月18日，邓小平在会见柬埔寨的诺罗敦?西哈努克亲王和夫人时说，干部老化问题已到了非解决不可的地步了。7月4日，邓小平在军委座谈会上谈到“老干部在上面，中青年干部上不来”的问题时转述了聂荣臻的一句话：聂荣臻提出，步子要稳妥。我赞成。他有一个意见，就是要结合，老的一下丢手不行，老的要结合中青。他还说，干部年轻化，台阶可以上快一点，这个问题解决不了，我们这些人交不了账。如果再拖5年，怎么办？
9月6日，在中国共产党第十二次全国代表大会上，通过了新的《中国共产党章程》，在新党章的第三章第22条里明确了中顾委的组成原则和职能作用：党的中央顾问委员会是中央委员会政治上的助手和参谋。中共十二大上，邓小平出任过渡形式的中央顾问委员会主任，他意在为退休做铺垫。会上，邓小平就中顾委的性质和任务作了重要讲话。他说：中央顾问委员会是个新东西，是根据中国共产党的实际情况成立的，是解决我们这个老党、老人实现新旧交替的一种组织形式。目的是使中央委员会年轻化，同时让老同志退出一线后继续发挥一定的作用，顾问委员会就是这样一个组织。可以设想，我们再经过10年，最多不要超过15年，取消这个顾问委员会。
1987年党的十三大召开前，邓小平、陈云、李先念等人共同约定“一齐退下来，而且是一退到底。即退出中央委员会，不再担任任何职务。彭真、邓颖超、徐向前、聂荣臻也要求‘全退’”。对于邓小平、陈云、李先念“全退”的要求，尤其是对邓小平“全退”的要求，中央许多人表示不能接受，特别是老同志。后来，经过中央政治局反复讨论，并征求多方意见，决定邓小平、陈云、李先念3人“半退”，即退出党的中央委员会，但仍担任一定职务——邓小平担任中央军委主席，陈云担任中顾委主任，李先念担任全国政协主席；彭真、邓颖超、徐向前、聂荣臻“全退”，即退出党的中央委员会，不再担任任何职务。在党的第十三次全国代表大会上，在三老“半退”、四老“全退”的带动下，中央和各省、市、自治区又有一批老干部退出第一线的领导岗位，增选为中顾委委员和各省、市、自治区的顾问委员会委员，一批年轻干部走上了一线领导岗位。
1989年6月23日至24日，中共十三届四中全会在京召开。全会选举江泽民为中央委员会总书记，增选了中央政治局常委，这标志着以江泽民为核心的第三代中央领导集体的建立。
9月4日，一个极为平常的日子。几辆小轿车驶过喧闹的大街，前后有序地驶进景山后街一个僻静的胡同，在两扇铁门前停了下来。须臾间，铁门悄然无声地被打开，等几辆小车轻轻地开进去后，大门又轻轻地关上了。院子里是一片生机盎然的景象：几棵石榴、核桃、柿子、海棠树和葡萄架上已经长出了果实。三棵雪松已经长得遮天蔽日。几棵白皮松英姿华美，伸向蓝天。特别惹人注目的是两棵油松，长得淳朴、苍健。这就是邓小平的住处。