剑桥大学研究：AI 可能会被用来操控并出售用户的想法

最新 12 月 30 日消息，据英国《卫报》今日报道，剑桥大学的一项研究警告称，人工智能 (AI) 技术可能被用来操控在线用户的选择 —— 从购买商品到投票决定。

研究指出，一个名为“意图经济”的新兴市场正在成形。在这一市场中，AI 助手不仅可以分析和预测用户意图，还能操控这些意图，并将相关数据出售给希望获利的公司。

剑桥大学莱弗休姆未来智能研究中心 (LCFI) 的研究人员将“意图经济”视为取代“注意力经济”的下一阶段发展。

最新注：“注意力经济”通过社交平台吸引用户注意力并推送广告，而“意图经济”则更加深入，直接针对用户的动机和决策过程。

科技公司可以利用 AI 技术分析用户的需求，并将这些信息拍卖给出价最高的广告商。“长期以来，注意力一直是互联网的核心货币。”LCFI 技术史学家乔尼・潘恩博士指出，“社交媒体平台通过吸引用户注意力驱动经济增长。然而，意图经济若缺乏监管，将把用户的动机变成新的交易筹码，导致对用户意图的争夺战。”

研究进一步分析，大型语言模型可以实时分析用户行为和心理数据，预测并引导其决策过程。例如，AI 助手可能会主动询问用户是否要观看某部电影或帮助安排娱乐活动，从而影响用户的选择。

这种 AI 技术还能根据用户的行为轨迹和心理特征动态调整建议。研究警示，这可能导致 AI 工具被用于操控对话，以实现广告商或第三方的商业目标。

报告特别指出，科技公司已经在利用 AI 推动定制化广告。例如，Meta 公司开发的 Cicero 模型表现出在推测和引导人类意图方面的“类人水平”。

AI 模型甚至能够在对话中推测用户信息，并利用交流内容进一步挖掘个人数据。这可能引发隐私保护和伦理方面的担忧。

研究表明，大语言模型可以低成本地利用用户的说话风格、立场、年龄、性别、对奉承的偏好等等，结合经纪人的出价，最大限度地实现既定目标（如销售电影票）。在这个世界里，AI 模型将引导对话，为广告商、企业和其他第三方服务。

研究进一步预测，未来广告商可能竞拍用户的预订意图，如餐厅或酒店预订。而 AI 技术将使这一过程更加精确、高效和个性化，显著提升商业化程度。

研究还援引 Meta Cicero 团队的警告称：“ AI 系统可能会通过对话巧妙地引导用户，以实现特定目标。”

英伟达首席执行官黄仁勋曾表示，未来的 AI 模型将理解用户需求，并根据情境提供最合适的信息。这表明，AI 技术在预测和影响用户决策方面的潜力不容忽视。