1978年真理标准问题的讨论，乔木开始表现态度不明朗。很快，邓小平表了态，支持讨论，反对“两个凡是”，乔木态度也变了。据当时《解放军报》总编华楠说，小平明确表态是在全军政治工作会议上，讲话是乔木起草的。这时，他跟着小平转了。
1978年5月10日，中共中央党校的内部刊物《理论动态》第60期发表了经胡耀邦审定的《实践是检验真理的唯一标准》一文。5月11日《光明日报》以“本报特约评论员”名义公开发表，同日《人民日报》、《解放军报》全文转载，新华社全文转发。一场声势浩大的关于真理标准的大论战，在中国展开。
在1978年，为了从理论上否定“两个凡是”，在邓小平、胡耀邦的支持下，开展了关于“真理标准大讨论”。
吴江同志在他所着《十年的路》一书中说：在真理标准一文发表不久，他参加了社会科学院召开的一次会议，社会科学院院长胡乔木同志在那次会议讲话中指责说：“如认为中央领导在真理标准问题上有分歧，那就是分裂党中央。”吴江还说：“记得当时邓力群同志也在场，听后他也对我说：这话有些过头了。”据我所知，这是指全国哲学社会科学规划会议。我也听参加会议的同志证实，乔木确实这样讲过。
他说：“《光明日报》那篇特约评论员的文章，听说本是外省的一位教师写的，内容是宣传马克思主义认识论一个基本原理：实践是检验真理的唯一标准，而且是毛主席特别着重宣传和反复宣传的基本原理，竟然会成为问题，这个事实本身，就说明进行这场讨论是多么及时，多么中肯，多么必要，宣传马克思主义的基本原理都成为问题，难道还不要大声疾呼吗？！如果对这样的问题还不大声疾呼，而是袖手旁观，保持沉默，明哲保身，那确实就像毛主席说的，这些同志自称学的马克思主义跑到哪里去了呢？这样的社会科学工作者对于党和人民还有什么存在的必要呢？是一个共产党员不宣传马克思主义，共产党员不宣传马克思主义，何必做共产党员！因此，《光明日报》发表这篇文章，《人民日报》转载了，这是完全正确的。”
在“真理标准大讨论”之初，未曾听见胡乔木的声音。胡乔木正处于思索之中。
华国锋终于明确提出“两个凡是”，作为他的核心“理论”：
胡乔木的这些讲话，表明他完全转到了支持“实践是检验真理的唯一标准”这一论点，而且言语尖锐，跟他在“真理标准”讨论初期的言论全然不同。
但是，随着对于“四人帮”批判的深入，对于“左”的批判的深入，胡乔木对一系列理论问题进行反思。他坚决加入了批判“两个凡是”的行列。
胡乔木有着多年研究马列主义的阅历，有着较高的理论水平。这“中共中央一支笔”的加入，使批判“两个凡是”多了一员猛将。
胡乔木终于说话了。不过，胡乔木最初的态度，表明这位理论家的思想有点跟不上趟。
在1978年5月份，大家都在议论《光明日报》上那篇《实践是检验真理的唯一标准》的文章时，乔木在社科院的大会上讲：有人说中央对这个问题有分歧，这是造谣！造谣！他说得很严重，还扣了很大的帽子。事实上，中央内部明明是有分歧的，很多人都知道，这已不是什么秘密了。他这么一说，搞得大家很不理解。干嘛要这么说呢？还这么凶，很多人都不以为然。中央党校有个同志叫沈宝祥，写了一本关于真理标准问题讨论始末的书。材料很丰富，书中讲到，胡乔木有一天到胡耀邦家里去，对胡耀邦说，真理标准问题讨论不要再搞下去了，否则会造成党的分裂。事情说得这么严重，给胡耀邦压力很大，不得不考虑下一步怎么办。那时，管思想宣传工作的汪东兴等人都反对，批评得很重，邓小平也还没有表态。过了不久，小平同志表态了，支持讨论。这时胡耀邦胆子也壮了。这件事情到底有没有？还有待核实。但从逻辑上推是可能的。因为乔木在社科院的讲话态度就是不想把这个讨论搞下去。
1978年9月13日，胡乔木在全国哲学社会科学规划会议预备会议的讲话中指出：
胡乔木毕竟多年在毛泽东身边工作，毛泽东晚年的“左”的思想也曾给了胡乔木以深刻的影响。胡乔木在粉碎“四人帮”之后，也走过了一段思索的路。他最初对所谓“无产阶级专政下继续革命”理论，也曾赞同。
凡是毛主席作出的决策，我们都坚决拥护，凡是毛主席的指示，我们都始终不渝地遵循。
1978年10月，胡乔木还在国务院务虚会上，作了《按照经济规律办事，加快实现四个现代化》的长篇发言。
当时担任中共中央党校理论研究室的副主任、分管《理论动态》的负责人孟凡，后来这样谈及“真理标准大讨论”时的胡乔木：
乔木同志为什么会这样提出问题呢？后来我看到社科院印发的正式文件，才知道乔木同志在1980年6月28日中国共产党社会科学院第一次代表大会的报告中，对此作了“自我批评”。
在粉碎“四人帮”之后，华国锋成为中共中央主席。华国锋继续着毛泽东晚年“左”的路线，强调一切“照过去方针办”，居然提出要“保护无产阶级文化大革命的胜利成果”，居然认为“四人帮”不是极左派而是极右派，居然坚持要继续“批邓”……
“像真理要受到实践的检验，马克思主义要随着历史的发展而发展这样的问题，完全不是什么新的发明创造，这是马克思主义的根本原理、根本常识。可是居然成为问题，在一些地方甚至成为不能讨论的问题。这说明‘四人帮’的流毒还是多么严重地存在着。马克思主义者，包括社会科学工作者，就要同这种流毒作斗争，批评这种流毒，肃清这种流毒。这是一个十分重大的政治任务，因为如不完成这个任务，我们党不但在理论上而且在实践上就不能前进一步。这就是这个讨论的意义。如果这个问题的讨论有什么背景的话，这就是它的政治背景。”
郑惠谈到胡乔木在“真理标准大讨论”中态度的转变过程：
他说：“我想应该对我们自己工作里面的缺点进行自我批评。……有一次我说了几句话，影响非常坏。就是在全国社会科学规划会议上。这件事情一直到现在，大家都还记得，我也一直没有忘记，我想我应该在这里说一下，把这件事情做一个了结。当时，关于实践是检验真理的标准的讨论，我说，政治局常委在这个问题上没有分歧，说有分歧，就是造谣，就是分裂党。我这话是非常错误的，错误很明显。当时怎么会说这样的话？是怎么回事？当时政治局常委确实讨论过这个问题，大家都表示同意，是有这回事，这件事当然是一种表面现象。可是为什么我要说出那样一些话呢？当时想利用这样一个事实来反对有一些人当时不许进行这个讨论，说这个问题中央没有表态，意见不一致，不应该讨论。这种情况，我当时指的就是中央宣传部和上海市委宣传部，他们就是采取这样一个态度。我所说他们是造谣，是分裂党，我的心目中是指的这样一些人，可是这个话我不可说清楚，本来我就不应该这样说，因为事实不能用这样一种简单的方法来描写。因此，有这样一种推理，不但不能够帮助讨论，反而会造成一种思想上的混乱。很多同志对我说这样的话，表示非常不满，很惊讶，为什么说出这样的话来？！确实说话经常会不周到的，那么这次，这也是不应该说的。”
不少同志对乔木这个“自我批评”很不满意，说他没有把他对真理标准问题讨论的真实思想讲清楚，认为他这些话是名为维护党的团结，实是维护当时坚持“两个凡是”方针的中央领导立场的表露。
