孔子自己倒是没说过“知其不可为而为之”这句话，这是别人对于孔子的评价。《论语·宪问》记载了一个故事：孔子的弟子子路在鲁国都城看门人那里投宿，看门人问他的来历，他回答自己是孔子的弟子。那个看门的人便说：“哦，是那个知其不可为而为之的人啊！”能说出这样的话，这个看门人多半也是个隐士，不然的话，也不会一提到孔子，便用“知其不可为而为之”来说孔子。可见，在旁人看来，孔子当时为推行自己的政治主张而努力的结局是十分清晰的，必然要失败。的确，在当时那样一个诸侯纷争的年代，行“仁”重“德”这一政治理想的确显得有些不合时宜。旁观者已经看透了的现实，恐怕孔子自己心里也一清二楚，之所以不肯归隐，选择周游列国，宣传自己的主张，多半也正是出于一种“知其不可为而为之”的信念。

关于此，孔子自己曾做过一次解释。有一天，孔子一行周游到楚国负函一带，被一条大河挡住了去路。孔子看到两个人在水田里劳动，就派子路去问路。这两个人一个叫长沮，一个叫桀溺，都是楚国的隐士。当得知这一行是孔子和他的弟子时，两个隐士不但没有帮忙指路，反而教训了子路一顿：“现在都是一些乱臣贼子、昏君乱相在治理天下，世道一片黑暗，谁能够听你们的说教，谁又能够跟着你们一块去改变这个状况？就凭你们这几个人，怎么可能改变天下？你的老师为什么不告诉你这个道理？你又为什么不明白这个道理呢？你与其跟着你老师这样躲避昏君，做避人之士，还不如跟着我们这些避世之士。”子路回来后，对孔子复述了隐士的话。孔子听了以后说：“人怎么可以和鸟兽同居呢？我不和天下人同群，又和谁同群呢？如果天下安定，人民幸福，当然不需要我们来改变什么了，这时做隐士或许还可以。但如今天下混乱，民生艰难，正需要我们努力去改变啊！”这里孔子便道出了自己 “知其不可为而为之”的原委，也说出了自己不做隐士的原因。不是不愿意做隐士，而是考虑到自己的责任，社会需要自己做出努力时，即使明知不可为也要争取一下，这正显示了孔子的伟大之处。后人对隐士只是欣赏，对孔子则是崇敬。