计算机教程网

您现在的位置是:首页 > 智能时代 > 人工智能

人工智能

相关人士回应字节大模型遭实习生攻击:破坏训练属实,损失金额及处理方式被夸大

2024-10-20 06:40:26人工智能 IT之家 清源
据“证券时报·e公司”报道,接近字节跳动的人士今日就“字节大模型遭实习生攻击”一事表示,确有实习生破坏AI模型训练,但损失金额和处理方式被夸大。

最新 10 月 19 日消息,据“证券时报・e 公司”报道,接近字节跳动的人士今日就“字节大模型遭实习生攻击”一事表示,确有实习生破坏 AI 模型训练,但损失金额和处理方式被夸大

最新附前情提要:

近期流传消息称,今年 6 月,某高校博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。截至目前,官方未进行回应。

传闻显示,该田姓实习生利用了 HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且 AML 团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。

知情人士称,字节跳动内部已经调查明确此事为田姓实习生所为。目前,该实习生已被辞退,字节跳动同时把此事同步给阳光诚信联盟和企业反舞弊联盟,以及该实习生所在的学校。但这名实习生被辞退后到处“辟谣”甩锅,称是其他人所为。