字节跳动大模型训练被实习生攻击 背后四点真相曝光
字节跳动大模型训练遭实习生攻击一事引发网友的广泛关注，相关话题随即登上热搜。
据“大厂青年”爆料，据内部厂友透露，破坏模型训练确有其事，但传闻也有些夸张和虚构的信息。
据了解，事情发生在六月底。某著名高校博士生田某某在大厂商业化技术团队实习，因为对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。
首先，受影响的业务不是该厂的大模型，而是商业化技术团队的模型训练任务，也就是影响了广告部门。
至于传闻损失上千万美元，则是太夸张了。
另外，“实习生被送进去”是假的，处理方式是辞退，同步行业联盟，同步情况给学校。
在消息曝出后，该名涉事实习生试图在社交平台上辟谣，将责任推给他人，不过很快便遭到了接近字节跳动人士的否认。
据相关知情人士在Gitbub上表述，“你（指田某）在长达2个月的时间里对集群代码进行恶意攻击，对公司近30位各级员工造成巨大伤害，让你的同事近一个季度的工作白费。所有的记录和审查都证明这是不容狡辩的事实！”
据悉，田某某利用了Huggingface（HF）平台的漏洞，在公司的共享模型中写入了破坏代码，导致模型训练效果忽高忽低，无法产生预期的训练成果。
一位前字节技术员工表示，“字节AI Lab的实习生权限和正职员工差异不大，也使得此次事件有了发生的机会”，其也对此次事件带来的恶性影响表达了担忧，“这件事之后肯定会极大地收缩实习生的权限”。
更新于：1个月前
我要评论