字节起诉涉攻击大模型实习生索赔800万元,内部人士:没意识到错误,触犯安全红线

  字节跳动决定起诉此前攻击内部大模型的前实习生。

  11月28日,澎湃新闻记者获悉,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院判令田某某赔偿公司侵权损失800万元及合理支出2万元,并公开赔礼道歉。

  字节跳动内部人士向澎湃新闻记者表示,由于田某某为在读博士,公司将其辞退后首先交由校方处理。但在事件处理期间,田某某多次对外否认,称攻击模型训练任务的不是自己,而是别的实习生,甚至报警称遭到造谣。考虑到田某某完全没有意识到错误,且涉事行为已触犯公司安全红线,公司最终决定向法院起诉,以表明公司严肃态度、杜绝类似事件再次发生。

  今年10月,“字节跳动大模型被实习生攻击”一事,曾经在舆论沸沸扬扬。有传闻称:“字节跳动的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。”

  10月19日,字节跳动回应称:“确有商业化技术团队实习生恶意干扰团队研究项目的模型训练任务,该实习生已被辞退,但这并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。网传‘涉及8000多卡、损失上千万美元’严重夸大。”

  不过,字节跳动未披露受到影响的具体金额。字节跳动澄清,“经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。”

  该事件实际发生在今年6月底,实习生田某某为国内某高校在读博士生,于2021年9月起在字节实习,因对团队资源分配不满,利用HF(huggingface的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。在消息曝出后,该名涉事实习生试图在社交平台上辟谣,将责任甩给他人,不过很快便遭到了接近字节跳动人士的否认。

  为何索赔金额达到800万元如此高昂?上海申伦律师事务所律师夏海龙向记者解释称,法庭上原告能够证明的损失一般都会低于实际损失,判决支持的金额也一般低于原告的诉请金额。字节公司诉请索赔的金额,取决于是否有证据证明被告的确给公司造成相应损失。

相关文章