證實！字節(jié)大模型訓練遭北大實習生投毒
2024-10-21 18:31
來源：
OFweek人工智能網(wǎng)
本周有消息稱，北大某田姓研究生在字節(jié)實習期間，利用 huggingface 的漏洞給字節(jié)大模型注入了破壞代碼，導致其訓練成果不可靠，而重新訓練帶來的損失或超千萬美元（8000 多張 GPU 顯卡）。
GitHub 上公開了田某某的錄音，成為實錘證據(jù)。
知情人士在 Gitbub 上稱，“你（指田某）在長達 2 個月的時間里對集群代碼進行惡意攻擊，對公司近 30 位各級員工造成巨大傷害，讓你的同事近一個季度的工作白費。所有的記錄和審查都證明這是不容狡辯的事實！”
此事在網(wǎng)上傳的沸沸揚揚，字節(jié)昨日回應。
回應要點有三：1.事情屬實；2.該事未影響大模型商業(yè)化；3.“損失千萬美元” 屬嚴重夸大。
據(jù)悉，事情原委是高校博士生田某今年 6 月在字節(jié)跳動 AI Lab 實習期間，因?qū)F隊資源分配不滿，使用攻擊代碼破壞了團隊的模型訓練任務。田某于 2021 年 9 月起在該單位實習，所在團隊剛在今年 4 月與北大王立威團隊提出了 VAR 研究。
字節(jié)跳動內(nèi)部調(diào)查確認了是田某某所為，已經(jīng)辭退該人。字節(jié)跳動還將此事通報給了陽光誠信聯(lián)盟、企業(yè)反舞弊聯(lián)盟以及實習生所在的學校。
有報道指出，字節(jié)跳動的 AI Lab 實習生權限和正職員工差異不大，這為此次事件提供了機會。經(jīng)此一事，字節(jié)后續(xù)會加強權限隔離和共用代碼的審計。
分享
聲明：
本網(wǎng)站所刊載信息，不代表OFweek觀點�？帽菊靖寮�，務經(jīng)書面授權。未經(jīng)授權禁止轉(zhuǎn)載、摘編、復制、翻譯及建立鏡像，違者將依法追究法律責任。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
10 大模型的盡頭是開源
- 1 特斯拉工人被故障機器人打成重傷，索賠3.6億
- 2 【行業(yè)深度研究】退居幕后四年后，張一鳴終于把算法公司變成AI公司？
- 3 AI 時代，阿里云想當“安卓” ，那誰是“蘋果”？
- 4 硬剛英偉達！華為發(fā)布全球最強算力超節(jié)點和集群
- 5 機器人9月大事件｜3家國產(chǎn)機器人沖刺IPO，行業(yè)交付與融資再創(chuàng)新高！
- 6 谷歌“香蕉”爆火啟示：國產(chǎn)垂類AI的危機還是轉(zhuǎn)機？
- 7 00后華裔女生靠兩部AI電影狂賺7.8億人民幣，AI正式進軍好萊塢
- 8 美光：AI Capex瘋投不止，終于要拉起存儲超級周期了？
- 9 華為已殺入！AI領域最熱黃金賽道，大廠的數(shù)字人美女讓我一夜沒睡著覺
- 10 隱退4年后，張一鳴久違現(xiàn)身！互聯(lián)網(wǎng)大佬正集體殺回
