Do tính chất phức tạp của cuộc đấu tranh ngày càng gay go, phức tạp trong chống âm mưu thủ đoạn chiến tranh phá hoại nhiều mặt của các thế lực thù địch, thực hiện bao vây cấm vận và chiến lược “Diễn biến hòa bình” đối với nước ta. Cùng với những yêu cầu chung của đất nước và nhiệm vụ chính trị của từng địa phương về đường lối đổi mới của Đảng. Ngày 20/10/1987, trong đợt nghiên cứu quán triệt nghị quyết BCH TW Đảng (Khóa VI) một số cán bộ cao cấp quân đội đã nghỉ hưu thống nhất viết thư gửi trực tiếp cho đồng chí Tổng Bí thư Nguyễn Văn Linh. Đến 30/11/1987, chấp hành ý kiến chỉ đạo của đồng chí Tổng Bí thư Nguyễn Văn Linh, Tổng Cục Chính trị QĐNDVN cho mời 16 đồng chí cán bộ cao cấp quân đội nghỉ hưu (số có tên trong thư) để tham khảo nội dung chỉ thị của Trung ương về thành lập Hội cựu binh sĩ các cấp do quân đội quản lý, nhưng các đồng chí này không đồng tình, bởi vì “Cựu chiến binh là những người tự giác cầm súng chiến đấu giải phóng dân tộc, còn cựu binh sĩ là những thanh niên đã hoàn thành nghĩa vụ quân sự trong thời gian tại ngũ”. Hai cụm từ này hoàn toàn khác nhau về bản chất, cho nên đề nghị Tổng Cục Chính trị báo cáo với Ban Bí thư trình bày cho phép thành lập Hội Cựu chiến binh Việt Nam. (lúc này đ/c Đại tướng Nguyễn Quyết làm Chủ nhiệm Tổng Cục chính trị (1987-1991).

Với ý chí quyết tâm cao, một số sĩ quan cao cấp nghỉ hưu đã cùng nhau nghiên cứu soạn thảo văn bản gồm: Tôn chỉ, mục đích, tính chất nhiệm vụ, nguyên tắc tổ chức và phương thức hoạt động… gửi lên Ban Bí thư TW Đảng.

Trước nguyện vọng chính đáng của tuyệt đại đa số sĩ quan cao cấp nghỉ hưu là cựu chiến binh tiếp tục đề nghị Ban Bí thư trình Bộ Chính trị nhưng có ý kiến cho rằng: Tổ chức Cựu chiến binh là vấn đề lớn, vấn đề mới chưa có tiền lệ trong hệ thống chính trị của Đảng ta. Hơn nữa, sau ngày 30/4/1975 đã xảy ra một số cán bộ cao cấp của quân đội nghỉ hưu, chuyển ngành có tư tưởng công thần, địa vị đòi hỏi cấp chức, quyền lợi; tuy không nhiều nhưng phần nào ảnh hưởng và giảm niềm tin của Đảng, nếu được thành một tổ chức thống nhất thì càng phức tạp hơn. Từ đó có nhiều ý kiến chưa thật sự đồng tình và cho rằng trong xã hội hiện nay có rất nhiều Hội như: Hội Người cao tuổi, Hội Nông dân, Hội Liên hiệp Phụ nữ… Cựu chiến binh đủ điều kiện tham gia hội nào thì tự giác tham gia hội đó, không nhất thiết phải thành lập thêm Hội Cựu chiến binh.

Tuy nhiên, sau khi đi dự lễ kỷ niệm 72 năm Cách mạng Tháng 10 Nga (07/11/1917-07/11/1987), đồng chí Tổng Bí thư Nguyễn Văn Linh đã nghiên cứu, tìm hiểu và nắm tình hình tư tưởng, chính trị của cán bộ, đảng viên Đảng Cộng sản Liên bang Xô Viết trở về, đồng chí cho rằng: Tuy sự biến động chính trị ở Nga dẫn đến mất chế độ XHCN là do có nhiều đảng viên Đảng cộng sản cấp cao bị phai nhạt ý chí, xét lại chủ nghĩa Mác Lênin;  nhưng đối với quân đội, đặc biệt là cán bộ cao cấp vẫn trung thành với CNXH Liên Xô. Sau đó, đồng chí Tổng Bí thư Nguyễn Văn Linh đã viết thư trả lời cho tập thể cán bộ cao cấp trong quân đội nghỉ hưu, trong bức thư có đoạn: “Tôi rất cảm động và rất tâm đắc với ý chí của các đồng chí đã đề xuất trong thư gửi cho tôi…”. Do vậy vào ngày 06/12/1989 theo đề nghị của Ban Bí thư, Bộ Chính trị, BCH TW Đảng có quyết định thành lập Hội CCBVN, chỉ định BCH lâm thời gồm 31 đồng chí, do đồng chí Thượng tướng Song Hào, nguyên Chủ nhiệm Tổng Cục Chính trị QĐNDVN làm chủ tịch. Từ đó lấy ngày 06/12 hàng năm làm ngày truyền thống của Hội CCBVN.

Hội CCBVN là thành viên của Liên đoàn CCB các Nước Đông Nam Á (10 nước) và thành viên Liên đoàn CCB thế giới (121 nước) và được Hiến pháp nước Cộng hòa xã hội CNVN xác nhận là một tổ chức chính trị - xã hội và thành viên của Mặt trận Tổ quốc Việt Nam.

31 năm qua, mặc dù trước những diễn biến phức tạp của tình hình thế giới, khu vực, những khó khăn, thử thách đối với sự nghiệp xây dựng và bảo vệ đất nước; và trước những yêu cầu ngày càng cao, nhiệm vụ ngày càng nhiều, nhưng dưới sự lãnh đạo của Trung ương, các cấp ủy Đảng, sự giúp đỡ của chính quyền, Mặt trận Tổ quốc và các ban, ngành, đoàn thể, Hội CCB Việt Nam đã tích cực vận động các thế hệ CCB tiếp tục phát huy bản chất, truyền thống “Bộ đội Cụ Hồ”; thực hiện tốt vai trò, chức năng, nhiệm vụ Đảng giao. Hội đã tích cực tham gia xây dựng, bảo vệ Đảng, chính quyền, chế độ XHCN và khối đại đoàn kết toàn dân tộc, được Đảng đánh giá là chỗ dựa đáng tin cậy của Đảng, chính quyền và nhân dân, nhất là cơ sở. Các cấp Hội, cán bộ, hội viên, người lao động đã tập trung xây dựng Hội vững mạnh về chính trị, tư tưởng và tổ chức, không ngừng phát triển tổ chức Hội và hội viên. Vì vậy, qua 6 lần Đại hội thì mỗi lần Đại hội là mỗi lần đánh dấu sự trưởng thành của Hội. Từ 70 vạn hội viên khi mới thành lập, đến nay đã có 110 tổ chức Hội trực thuộc Trung ương, gần 3 triệu hội viên sinh hoạt tại gần 17 nghìn tổ chức Hội cơ sở; tập hợp hơn 1,2 triệu Cựu quân nhân (CQN) vào sinh hoạt tại hàng ngàn Câu lạc bộ CQN.

Có thể nói, dù ở đâu, giữ bất cứ cương vị nào, làm bất cứ việc gì, tuyệt đại bộ phận CCB vẫn tiếp tục phát huy bản chất, truyền thống “Bộ đội Cụ Hồ”, “Trung thành - Đoàn kết - Gương mẫu - Đổi mới”, hăng hái tiếp tục cống hiến cho sự nghiệp cách mạng; luôn luôn trung thành với Đảng, với Tổ quốc và Nhân dân, thường xuyên quán triệt sâu sắc và thực hiện có hiệu quả đường lối, chủ trương, của Đảng, chính sách, pháp luật của Nhà nước, tích cực tham gia xây dựng, bảo vệ Đảng, chính quyền, chế độ Xã hội chủ nghĩa. Nhiều cán bộ, hội viên đã phát huy ý chí tự lực, tự cường, dám nghĩ, dám làm, sáng tạo, vượt qua mọi khó khăn, thử thách, hết lòng thương yêu giúp đỡ nhau xóa đói, giảm nghèo, nâng cao đời sống, làm giàu hợp pháp. Đến nay đã có hơn 10.700 doanh nghiệp vừa và nhỏ, gần 120.000 trang trại, hợp tác xã, tổ hợp tác do CCB làm chủ, tạo công ăn việc làm cho hàng vạn lao động là CCB, CQN, con, em CCB và đóng góp, ủng hộ hàng nghìn tỷ đồng làm công tác chính sách xã hội. Toàn Hội đã xóa được 77.900 nhà dột nát; hiện cả nước còn 4,22% hộ hội viên CCB nghèo, 4,28% hộ cận nghèo. Hội đã góp phần tích cực và hiệu quả vào việc giáo dục truyền thống yêu nước, chủ nghĩa anh hùng cách mạng, ý chí tự lực, tự cường cho thế hệ trẻ. Thường xuyên củng cố, mở rộng quan hệ đoàn kết, hữu nghị, hợp tác với Hiệp Hội CCB và các tổ chức CCB của các nước, góp phần giải quyết hậu quả chiến tranh như: Chất độc da cam/Dioxin, MIA, rà phá bom mìn …; tích cực tham gia ngày càng có hiệu quả các hoạt động đối ngoại Nhân dân của Đảng, Nhà nước.

Qua thực tiễn đã chứng minh, dù trong bất cứ điều kiện, hoàn cảnh nào, Hội CCB Việt Nam luôn luôn khẳng định được vị trí, vai trò là một tổ chức chính trị - xã hội, đại biểu cho ý chí và nguyện vọng của CCB, có vai trò tích cực trong đời sống xã hội, có uy tín và tín nhiệm cao trong Nhân dân, xứng đáng là chỗ dựa tin cậy của Đảng, Nhà nước và nhân dân.

Với những công lao to lớn và có nhiều thành tích xuất sắc đạt được trong sự nghiệp cách mạng của Đảng, Nhà nước và dân tộc, trong 31 năm qua, Hội CCB Việt Nam vinh dự được Đảng, Nhà nước tặng thưởng Huân chương Hồ Chí Minh, hai lần tặng thưởng Huân chương Độc lập hạng Nhất và tặng thưởng Huân chương Lao động hạng Nhất, hạng Ba; 21 hội viên được tuyên dương danh hiệu Anh hùng Lao động thời kỳ đổi mới. Hàng trăm tập thể, hàng nghìn cá nhân đã được Thủ tướng Chính phủ, bộ, ban, ngành, trung ương, chính quyền các cấp khen thưởng và tặng nhiều danh hiệu cao quý khác.