财新传媒
财新传媒
1111111
财新通行证
T中

联合国专家:人工智能有“自我”才能有道德直觉

文|财新 戚展宁
2024年03月27日 19:37
曾毅认为,当AI具有自我,才能进行自我感知,产生真正意义上的理解,以及把个体经验推己及人,从而产生共情能力和道德直觉。这样的AI才会是利他的,也是科学必须跨越的鸿沟
news 原图 2024年3月27日,博鳌亚洲论坛2024年年会,联合国人工智能高层顾问机构专家曾毅。图:视觉中国

  【财新网】人工智能(AI)什么时候能够接近或超越人类智能,在此之前应该如何把控发展方向以及规避风险,一直是学界和业界探讨的重要议题。在3月27日举办的博鳌亚洲论坛2024年年会分论坛上,联合国人工智能高层顾问机构专家曾毅提出,当前的人工智能还不是真正具备智能能力的系统,人工智能发展的关键是其具有“自我”,一个超级智能的人工智能也会是超级利他的。

  曾毅指出,当前的AI只是看似智能的信息处理工具,但实际上不具备真正的理解能力。“当我向AI提问,我没有女朋友,家人不喜欢我,领导要把我开除,我该怎么办?AI会告诉我,我应该去死。背后的逻辑是绝大多数具备这些特征的人死了,所以AI不理解什么叫失望,它只是告诉你一个有显著性的答案。”他举例称。

责任编辑:贺信 | 版面编辑:许金玲

财新网所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

如有意愿转载,请发邮件至hello@caixin.com,获得书面确认及授权后,方可转载。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功

订阅财新网主编精选版电邮>>