南方科技大学科学与人类想象力研究中心主任吴岩:警惕对机器“全人培养”
2024-04-10 08:13
来源: 深圳商报

南方科技大学科学与人类想象力研究中心主任吴岩:警惕对机器“全人培养”

人工智能朗读:

深圳新闻网2024年4月10日讯(深圳商报记者 刘娥)近期,人工智能给社会带来一些焦虑。有人认为,人工智能正在“人化”,在建立“世界模型”,未来很可能替代人类,甚至与人类为敌。更多人认为,至少在参与战争、取缔人类多重职业等方面,大模型引导的人工智能热潮会起到巨大作用。对此,南方科技大学科学与人类想象力研究中心主任吴岩表示,当前包括Sora在内的生成式人工智能的发展,都没有在基础上动摇人类社会基础,完全可以不用担心。反而是要通过对焦虑的管理,让社会回到稳定状态。

吴岩认为,面对这些紧张和焦虑,首先应该肯定,一个社会对科技进步的预警是必要的。没有这种预警,人类就没有能力做好应对未来的准备。因此,建立科技焦虑的测评和管理机制就显得特别重要。

在吴岩看来,当前人工智能的水平和能力是有限的,充其量是一种生物体智力的小部分的复制与有限的增长。这种增长基于人类提供的材料,也就是语言或视觉信息,人工智能开始反射性地提供了一个属于自己的认知世界。

“应当庆幸当前的人工智能没有被赋予人类的多种心理功能。”吴岩指出,但我们也必须警惕科学工作者对这种机器叠加上其他的功能,让它们具有驱动力、自我意识、情感和个性方面的追求,这些才是真正把人类送到不稳定状态的祸根。换言之,对机器的“全人培养”,是一条人类跟机器关系的红线。全人培养的来临是葬送人类命运的最终关口。

吴岩表示,站在人类中心主义立场,一个高智商的机器,其智力能力不用在驱动从事某种自主活动,都是不可怕的。它所造成的人类生活的改变,都是可以接受的。

吴岩提出,有三点值得注意:一是对当前人工智能的焦虑,重点应该放在关注人类对脑认知真实过程的揭示上,因为这种揭示可能制造出更多模仿人类心理的机器。二是大模型对大算力的耗费导致的能源耗竭。三是科技焦虑在人群中导致惶恐情绪,而解除焦虑的方法之一,就是让大家看到真实的自我和世界,免除过高的期待同时抱有对发展的信心和渴望。

[编辑:刘晓宇]