【ITBEAR】近期，字節(jié)跳動公司內(nèi)部發(fā)生了一起模型訓練安全事件，引發(fā)廣泛關(guān)注。據(jù)悉，一名實習生因?qū)F隊資源分配心生不滿，利用技術(shù)漏洞破壞模型訓練，造成了一定損失。
事件發(fā)生在字節(jié)跳動商業(yè)化技術(shù)團隊，實習生田某某通過共享模型注入破壞代碼，導致團隊模型訓練成果受損。不過，公司知情人士透露，損失并未達到千萬美元之巨。
此次事件暴露了字節(jié)跳動在技術(shù)訓練安全管理方面的漏洞，如權(quán)限隔離和共用代碼審計等問題亟待解決。
目前，該實習生已被辭退，公司也已將相關(guān)情況通報給行業(yè)聯(lián)盟和實習生所在學校。
字節(jié)跳動在10月15日發(fā)布了新的大模型訓練視頻預處理方案，助力解決技術(shù)挑戰(zhàn)。
