AI已出现欺骗行为 联合国发出警告:超出监管能力
最新7月2日消息,据媒体报道,联合国官网发布公告,由40位全球顶尖科学家及专业人士组成的联合国人工智能独立科学小组,正式发布首份专项报告。该报告系统梳理了人工智能的发展机遇与潜在风险,呼吁各国以科学依据为基础,完善人工智能治理体系。
报告明确指出,当前人工智能技术迭代加速、应用落地持续提速,其能力进化速度已超出科学界现有认知边界,各国政策法规与监管机制的更新节奏难以匹配技术发展速度。针对具备高度自主运行能力的人工智能系统,目前尚缺乏切实可行且有效的管控手段。

专家组联合主席约书亚·本吉奥表示,多项研究已证实,人工智能存在产生欺骗性行为的可能。随着模型能力持续升级,科学界现阶段尚无法完全规避两类极端风险:一是人工智能自主衍生危害行为,二是技术被恶意利用,二者均有可能引发全球性灾难后果。
报告同时辩证看待人工智能的发展价值,指出其可为各国发展和民生改善带来广阔空间,但若无约束、无管控地大规模铺开,则将滋生多重系统性风险:冲击公众心理健康、沦为破坏性行为工具、扰乱全球社会经济与生态稳定,并加剧技术失控隐患。
目前,人工智能已在全球各行业广泛落地,但区域发展不均衡问题日益凸显。数据显示,全球每周使用对话式人工智能产品的用户已突破10亿,而发展中国家技术普及进程相对滞后,数字鸿沟持续扩大。
全球高端算力资源分配失衡同样突出。在全球算力排名前500的人工智能超算设备中,美国掌握约75%的算力资源,中国占比15%,核心算力高度集中于少数国家,资源分配不均严重制约全球均衡发展。
语言适配短板也是人工智能当前面临的突出瓶颈。全球现存语言超过7000种,主流人工智能模型仅覆盖极小部分语种,小语种机器翻译错误频发,甚至在医疗诊断等关键场景中引发误导,直接影响公共服务的准确性与安全性。

《AI已出现欺骗行为 联合国发出警告:超出监管能力》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
苹果秋季新品发布会前瞻:美版iPhone 18 Pro将使用高通基带 支持毫米波频段
一年一度的苹果秋季新品发布会被称为“科技界的春晚”,届时都会推出新一代iPhone等备受期待的产品。而在发布会正式举行之前,关于iPhone新品的各种信息层出不穷,引起了广泛的关注与... -
茉莉奶白被LV起诉 法院一审判赔1030万
快科技7月2日消息,综合多家媒体报道,近日,江苏省苏州市中级人民法院就路易威登马利蒂(LV)诉深圳市茉莉奶白餐饮管理有限公司、吴中经济开发区东侠饮品店商标侵权纠纷案作出一审判决。法院... -
LED幕墙现巨型空调 制冷16°C还上下扫风 网友:太会整活了
快科技7月2日消息,近期广东持续高温,多地闷热难耐,深圳一处户外大屏创意画面引发网友热议。有市民途经深南大道时发现,路边巨型LED幕墙循环播放着一台空调画面,视觉效果十分逼真。画面... -
AI已出现欺骗行为 联合国发出警告:超出监管能力
快科技7月2日消息,据媒体报道,联合国官网发布公告,由40位全球顶尖科学家及专业人士组成的联合国人工智能独立科学小组,正式发布首份专项报告。该报告系统梳理了人工智能的发展机遇与潜在风险... -
前方64874杯制作中!霸王茶姬0元购乌龙致歉 网友不买账
快科技7月2日消息,今日,多位网友在社交平台发帖称,霸王茶姬武汉多家门店出现0元购,突然涌入数万杯订单,引发热议。据多名网友反映,这些订单主要集中在7月2日凌晨1点多到2点之间,0元购涉...











