红星资本局10月19日消息,近日有消息称,某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。
传言称,该实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果。
知情人士告诉红星资本局,该大厂为字节跳动,“注入8000多张卡”“损失上千万美元”等描述不实,太过夸大;受影响的业务也不是豆包大模型,而是商业化技术团队的模型训练任务,影响了广告部门的一些业务进展,但不影响线上业务。目前,字节跳动已对该实习生采取了辞退处理,并将此事通报给相关行业联盟和该实习生所在的学校。
据了解,此事发生在今年6月,起因是该实习生对团队资源分配不满,故使用攻击代码破坏团队的模型训练任务。
编辑: 杨丹纠错:171964650@qq.com