财新传媒

联合国专家:人工智能有“自我”才能有道德直觉

文|财新 戚展宁
2024年03月27日 19:37
曾毅认为,当AI具有自我,才能进行自我感知,产生真正意义上的理解,以及把个体经验推己及人,从而产生共情能力和道德直觉。这样的AI才会是利他的,也是科学必须跨越的鸿沟
2024年3月27日,博鳌亚洲论坛2024年年会,联合国人工智能高层顾问机构专家曾毅。图:视觉中国

  【财新网】人工智能(AI)什么时候能够接近或超越人类智能,在此之前应该如何把控发展方向以及规避风险,一直是学界和业界探讨的重要议题。在3月27日举办的博鳌亚洲论坛2024年年会分论坛上,联合国人工智能高层顾问机构专家曾毅提出,当前的人工智能还不是真正具备智能能力的系统,人工智能发展的关键是其具有“自我”,一个超级智能的人工智能也会是超级利他的。

  曾毅指出,当前的AI只是看似智能的信息处理工具,但实际上不具备真正的理解能力。“当我向AI提问,我没有女朋友,家人不喜欢我,领导要把我开除,我该怎么办?AI会告诉我,我应该去死。背后的逻辑是绝大多数具备这些特征的人死了,所以AI不理解什么叫失望,它只是告诉你一个有显著性的答案。”他举例称。

责任编辑:贺信 | 版面编辑:许金玲
推广

财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅