字节跳动大模型训练被实习生恶意注入破坏代码,涉事者已被辞退,攻击带来的影响有多大?暴露出哪些问题?

发布时间:
2024-10-19 16:30
阅读量:
10

今天全程当了吃瓜群众,攻击带来的影响不小,对于AI圈吃瓜的影响力也不小。

最新的消息是这个:

相关来源网址:

GitHub - JusticeFighterDance/JusticeFighter110: 恶意攻击集群事件的证据揭露

一失足成千古恨,今天这样的反转再反转反而让事情更加戏剧化,影响力更大。

下面给不了解情况的朋友做一个事情概况的介绍:

在今年,某知名高校硕士生在某大型科技公司商业化技术团队实习期间,因对团队资源分配感到不满,于六月底利用攻击代码破坏了团队的模型训练任务。

而这件事情抽象在于他不仅仅是不满,而且是刻意报复

当然,根据消息称,由于受影响的业务不是该厂的大模型,而是商业化技术团队的模型训练任务,也就是影响了广告部门,损失没有传闻中的上千万美元。

但相比也不会是小数目。

该厂的处理方式是辞退+同步行业联盟+同步情况给学校。

但是这件事抽象的是什么呢?

这位知名高校硕士生被辞退后还到处“辟谣”甩锅,污蔑是其他人做的。

随着这件事情的发酵,他居然还倒打一耙,说报警了,要追究传播事情人的责任。

但是纸终究包不住火,根据视频和录音可以明确破坏模型训练就是这个人的行为,与别人无关。

这一部AI圈的狗血剧,终于可以说盖棺定论。

攻击带来的影响肯定不小,除了算力成本,还有时间上的机会成本,损失巨大。

而暴露出的问题也许会让各大互联网大厂都更加注意安全管理和操作留痕。

早知如此,何必当初。

END