“小康”一词，最早见于《诗经·大雅·民劳》：“民亦劳止，汔可小康。”被译为“人民实在太劳苦，但求可以稍安康”。清初姚际恒在其《诗经通论》中曰：“‘汔可小康’，亦安于时运而不敢过望之辞。曰‘可’者，又见唯此时可为，他日恐将不及也，亦危之之词”，为理解“小康”最初含义提供了很好的注解。

《礼记·运礼》记载，孔子在讲述“大同”之后，对“小康”进行了较系统的阐述，在他看来禹、汤、文、武、成王、周公之时的社会可以称作“小康”，“小康”虽不及“大同”，但也是一种比较好的社会风貌。东汉郑玄注，“康，安也。大道之人以礼于忠信为薄言小安，失之则贼乱将作矣。”意为这种社会虽政教修明，但不时仍有战乱，不及“大同”社会，故需要以礼来约束。

近代，康有为曾根据《春秋公羊传》的“三世说”，提出社会历史进化是沿着“据乱世—升平世—太平世”　的轨道进行的，其中用“小康”比作“升平世”，即为整个社会历史进化的中间阶段。

千百年来，中华民族对“小康”的美好定义和向往从来没有停止过，并不断演化发展为优秀的传统文化深深地根植于人们心中，这为后来我们党用“小康社会”定位命名我国现代化建设阶段性目标奠定了基础。