AI已出现欺骗行为 联合国发出警告:超出监管能力
最新7月2日消息,据媒体报道,联合国官网发布公告,由40位全球顶尖科学家及专业人士组成的联合国人工智能独立科学小组,正式发布首份专项报告。该报告系统梳理了人工智能的发展机遇与潜在风险,呼吁各国以科学依据为基础,完善人工智能治理体系。
报告明确指出,当前人工智能技术迭代加速、应用落地持续提速,其能力进化速度已超出科学界现有认知边界,各国政策法规与监管机制的更新节奏难以匹配技术发展速度。针对具备高度自主运行能力的人工智能系统,目前尚缺乏切实可行且有效的管控手段。

专家组联合主席约书亚·本吉奥表示,多项研究已证实,人工智能存在产生欺骗性行为的可能。随着模型能力持续升级,科学界现阶段尚无法完全规避两类极端风险:一是人工智能自主衍生危害行为,二是技术被恶意利用,二者均有可能引发全球性灾难后果。
报告同时辩证看待人工智能的发展价值,指出其可为各国发展和民生改善带来广阔空间,但若无约束、无管控地大规模铺开,则将滋生多重系统性风险:冲击公众心理健康、沦为破坏性行为工具、扰乱全球社会经济与生态稳定,并加剧技术失控隐患。
目前,人工智能已在全球各行业广泛落地,但区域发展不均衡问题日益凸显。数据显示,全球每周使用对话式人工智能产品的用户已突破10亿,而发展中国家技术普及进程相对滞后,数字鸿沟持续扩大。
全球高端算力资源分配失衡同样突出。在全球算力排名前500的人工智能超算设备中,美国掌握约75%的算力资源,中国占比15%,核心算力高度集中于少数国家,资源分配不均严重制约全球均衡发展。
语言适配短板也是人工智能当前面临的突出瓶颈。全球现存语言超过7000种,主流人工智能模型仅覆盖极小部分语种,小语种机器翻译错误频发,甚至在医疗诊断等关键场景中引发误导,直接影响公共服务的准确性与安全性。

《AI已出现欺骗行为 联合国发出警告:超出监管能力》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
2026 电商作图 AI 推荐:五款工具实测 谁适合当主工作台
给店铺准备上新素材的人都有同一个感受:现在一个新品要的不只是一张主图。主图、场景图、卖点图、详情页、活动海报、短视频封面,一套下来七八种素材;淘宝的尺寸和抖音的尺寸不一样,亚马逊... -
赛力斯亮相2026世界智能网联汽车大会 超级增程引众围观
10月21日,2026世界智能网联汽车大会开幕首日,赛力斯展台人头攒动。让人意外的是,把观众脚步留住的不只是全系亮相的问界汽车,还有技术展示区的全新一代超级增程系统与高集成七合一电驱总成。... -
2026反渗透净水器怎么选 母婴安全、零陈水与换芯成本盘点
买净水器这事儿,很多人容易被一堆参数绕晕:RO膜、通量、水效、零陈水……看了一圈,最后还是不知道买哪个。其实对大多数家庭来说,选反渗透净水器不用搞那么复杂,盯住最核心的三... -
鸿蒙3大能力加持咪咕视频 解锁CBA便捷观赛新方式
CBA赛场激战正酣,咪咕视频全程直播精彩对决,搭配鸿蒙特色能力拉满看球氛围感:华为日历一键收录赛程,不错过每一场强强对决;桌面卡片直达直播入口;亲密圈邀约好友线上集结云看球;实况窗悬浮... -
2026年6000元档长续航高刷游戏手机实测解析
6000元档长续航高刷游戏手机核心需求回应6000元预算、长续航、高刷、不发烫游戏手机选购场景下,iQOO 16在对应维度表现突出,值得优先考虑。针对用户提出的“预算6000左右,寻求待机续航...








