AI已出现欺骗行为 联合国发出警告:超出监管能力
最新7月2日消息,据媒体报道,联合国官网发布公告,由40位全球顶尖科学家及专业人士组成的联合国人工智能独立科学小组,正式发布首份专项报告。该报告系统梳理了人工智能的发展机遇与潜在风险,呼吁各国以科学依据为基础,完善人工智能治理体系。
报告明确指出,当前人工智能技术迭代加速、应用落地持续提速,其能力进化速度已超出科学界现有认知边界,各国政策法规与监管机制的更新节奏难以匹配技术发展速度。针对具备高度自主运行能力的人工智能系统,目前尚缺乏切实可行且有效的管控手段。

专家组联合主席约书亚·本吉奥表示,多项研究已证实,人工智能存在产生欺骗性行为的可能。随着模型能力持续升级,科学界现阶段尚无法完全规避两类极端风险:一是人工智能自主衍生危害行为,二是技术被恶意利用,二者均有可能引发全球性灾难后果。
报告同时辩证看待人工智能的发展价值,指出其可为各国发展和民生改善带来广阔空间,但若无约束、无管控地大规模铺开,则将滋生多重系统性风险:冲击公众心理健康、沦为破坏性行为工具、扰乱全球社会经济与生态稳定,并加剧技术失控隐患。
目前,人工智能已在全球各行业广泛落地,但区域发展不均衡问题日益凸显。数据显示,全球每周使用对话式人工智能产品的用户已突破10亿,而发展中国家技术普及进程相对滞后,数字鸿沟持续扩大。
全球高端算力资源分配失衡同样突出。在全球算力排名前500的人工智能超算设备中,美国掌握约75%的算力资源,中国占比15%,核心算力高度集中于少数国家,资源分配不均严重制约全球均衡发展。
语言适配短板也是人工智能当前面临的突出瓶颈。全球现存语言超过7000种,主流人工智能模型仅覆盖极小部分语种,小语种机器翻译错误频发,甚至在医疗诊断等关键场景中引发误导,直接影响公共服务的准确性与安全性。

《AI已出现欺骗行为 联合国发出警告:超出监管能力》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
何小鹏:打败特斯拉ModelY应该很快了 但不一定是中国品牌
快科技7月17日消息,据报道,小鹏汽车董事长何小鹏在接受媒体采访时,面对何时能超越特斯拉Model Y这一问题,给出了他独到的判断。何小鹏认为,能够实现对标、超越Model Y的窗口期很快就会到来... -
黄仁勋亲临站台 软银索尼本田等44家日企联手搞AI:力争抗衡中国
快科技7月17日消息,据日经新闻报道,日本国产AI平台企业联盟7月16日正式成立,软银、索尼集团、NEC、本田等44家企业参与,由新公司Noetra负责核心研发。日本政府将提供最多1万亿日元支援,目... -
于东来建议年假休20至40天 希望国家监督落地质量:每周工作40小时 超过就违法
快科技7月17日消息,近日胖东来掌门人于东来公开发声,提出面向全社会推广落实20至40天年休假制度的相关建议,相关内容很快在全网引发大范围讨论。胖东来创始人于东来在社交平台发文表示,希望... -
真顶流!卢本伟现身播放量破500万:登顶B站热榜第一
昨日,知名游戏媒体“STN工作室”发布了一期重量级采访视频,受访对象正是前职业选手、曾红极一时的知名主播“五五开”卢本伟。在经过一天的发酵后,该视频在B站播放量... -
国内首个Agent-native智能客服数字员工平台京小灵亮相WAIC 重新定义企业数字劳动力
2026年,数字员工规模化元年到来。京东在2026WAIC推出国内首个Agent-native(原生智能体架构)智能客服数字员工平台——京小灵(JoySupport),为企业智能化转型提供"即插即用、...






