生成式人工智能应成为人类好助手但绝不能“反客为主”

深圳新闻网2026年5月22日讯（深圳特区报记者 杨丽萍 关炜瀛）清华大学人工智能研究院常务副院长、计算机科学与技术系长聘教授孙茂松以《生成式人工智能给知识生产创新带来的机遇与挑战》为题作了发言。

孙茂松

孙茂松指出，纵观历史，无论是文字、纸张、印刷术，还是模拟和数字通信、互联网等等，无一不是当时的重大科技发明，无一不是科技的一次次重大进步导致了知识生产的一次次范式创新。“最近十年间勃兴的以语言大模型为基础的生成式人工智能，注定会导致知识生产的又一次范式创新。”

孙茂松认为，与此前所有知识生产范式中人类始终是其中的唯一主体不同，这次“破天荒”地增加了一个新的主体：“机器”。而且，语言大模型具有强大的语言生成能力，同时具有较好的开放式语言理解能力。机器能做到这一点，是盘古开天地以来从未有过的局面。

“但同时也要看到，语言大模型远非完美。”孙茂松同时指出，本质上它是概率模型，在语言理解上不能保证如人类一般精准可靠，在语言生成上会出现与生俱来的“幻觉”现象（即生成虚假信息）。此外，训练语言大模型使用的互联网语料中，往往掺杂各类人类的偏见与谬见，从而导致模型也存在偏见与谬见。

“生成式人工智能在进行知识生产时，从真实性、可靠性、安全性等诸多角度对我们提出了新的挑战。”孙茂松现场抛出了几个必须进行深入思考的问题：第一，在知识产生及传播进程中，如何处理好人和机器的关系？毋庸置疑，在这个进程中人始终应占据主导地位。生成式人工智能应成为人类的好助手、好伙伴，但绝不能“反客为主”。第二，在人机共存的基本条件下，如何更加积极地发挥人在知识生产中的主观能动性？第三，生成式人工智能可加速知识发现与整合以及无时不在、无远弗届的知识传播。如何有效重构知识生产新范式，使其与时、与世俱进？如何有效重构知识生产新范式，使其与时、与世俱进？第四，生成式人工智能降低了知识生产门槛。如何更好地调动和挖掘大众知识生产能力，与专家知识生产形成互补？他说，2024年的一项调研显示，生成式人工智能能提升个体创造力，却降低了“新颖”内容的集体多样性。知识生产创新中面临的带有普遍性的问题，促使我们必须进行深入思考。