2024年世界互联网大会乌镇峰会期间,360集团创始人周鸿祎对百度创始人李彦宏宣称大模型已解决幻觉问题的言论,提出了不同看法。
周鸿祎首先肯定了李彦宏的观点,但随后指出,幻觉是大模型的本质属性,并非缺陷。
他认为,幻觉对大模型的智能性至关重要。正如《未来简史》所述,人类与其他动物智力差异源于我们想象不存在事物的能力,即“现实扭曲力”(幻觉和杜撰能力),这正是创新的驱动力。
周鸿祎进一步解释,大模型的幻觉在特定场景下应被发挥,但在其他场景可能导致错误。例如,在医疗诊断报告或金融方案建议中,幻觉可能造成不准确的结果。
在特定垂直领域,通过外部知识库校验可一定程度消除幻觉。但如果要求大模型具备独立推理和发散性思维,幻觉则难以根除。
值得注意的是,这并非周鸿祎首次与李彦宏在公开场合唱反调。
今年上半年,李彦宏认为闭源大模型优于开源,周鸿祎则反驳,开源社区汇聚的工程师和科学家数量远超闭源社区,且开源大模型发展速度惊人,未来一两年内可能超越或达到闭源水平。
更早前,李彦宏曾预测程序员职业将消亡,而周鸿祎持相反意见,认为随着大模型爆发,对程序员人才的需求将不断攀升。