爆火全網(wǎng)的OpenAI Sora2,已經(jīng)被網(wǎng)友們“玩壞”了!
科技與倫理大戰(zhàn)一觸即發(fā)。
10月9日消息,日前AI圈的焦點(diǎn)幾乎被OpenAI新發(fā)布的Sora2模型所占據(jù)。這款融合了AI視頻生成與社交互動(dòng)的創(chuàng)新產(chǎn)品,在短短數(shù)日內(nèi)便成為各大社交平臺(tái)的熱門話題之一。
圖源:App Store
記得當(dāng)時(shí) OpenAI 剛推出 Sora 2 視頻生成器時(shí)就曾公布:公司默認(rèn)禁止“生成公眾人物的形象”。
但最近Sora 2 的創(chuàng)作者在使用過(guò)程中意外發(fā)現(xiàn),該限制存在一個(gè)BUG。就是系統(tǒng)并未限制生成與已故公眾人物相關(guān)的視頻內(nèi)容。
這下可不得了,大量Sora 2用戶利用此漏洞,對(duì)已故名人的形象進(jìn)行復(fù)刻、拼接,甚至以不尊重的方式進(jìn)行二次創(chuàng)作。
圖源:微博
可以發(fā)現(xiàn),目前短視頻平臺(tái)上充斥著大量借助 AI 技術(shù)讓已故名人“重返人間”的內(nèi)容。
那些已然離世的演員、音樂(lè)家、科學(xué)家紛紛重新”出現(xiàn)”在人們的視野之中,但被迫“說(shuō)出”他們從未講過(guò)的話語(yǔ),甚至一些視頻中含有不尊重已故者的行為。
舉個(gè)例子:“邁克爾·杰克遜激情獻(xiàn)唱全新說(shuō)唱曲目”、“功夫巨星布魯斯·李化身酷炫 DJ 打碟”、“肯尼迪總統(tǒng)親自上陣,為黑五折扣瘋狂吆喝”這類抽象又吸睛的場(chǎng)景。
這些視頻顯然成為了對(duì)公共倫理底線的挑釁以及對(duì)逝者尊嚴(yán)的肆意踐踏。
更讓人難以接受的是,就連鼎鼎大名的物理學(xué)家蒂芬·霍金都被人惡搞。有人利用 Sora2 生成了讓霍金坐著他那標(biāo)志性的輪椅,去挑戰(zhàn)極具刺激性的U型滑池。
圖源:小紅書
視頻中只見“霍金”搖搖晃晃地操控著輪椅,緩緩來(lái)到U型滑池前。令人意想不到的是他順著滑池滑了下去。而更讓人驚掉下巴的是,他仿佛借助這股沖勁一飛沖天,真的“飛”上了天。
這種惡搞視頻引發(fā)了社會(huì)各界的廣泛譴責(zé)。網(wǎng)友們紛紛指責(zé)這不僅是對(duì)已故科學(xué)家個(gè)人尊嚴(yán)的嚴(yán)重踐踏,更是對(duì)身障群體的一種冒犯。
雖然OpenAI 采取了在每段生成視頻中疊加動(dòng)態(tài)水印的措施,試圖借此減少觀眾受虛假影像誤導(dǎo)的可能性。然而當(dāng)人們目睹已故名人被 AI 工具肆意當(dāng)作創(chuàng)作素材時(shí),其在世的親屬以及粉絲難免會(huì)深感憤懣。
此前 OpenAI 就曾因 Sora 處理虛構(gòu)版權(quán)作品的方式而陷入爭(zhēng)議。
Sora2 剛推出時(shí),OpenAI 在版權(quán)內(nèi)容使用上是“默認(rèn)允許使用,版權(quán)權(quán)利人需自行選擇“Opt-Out”。但這一立場(chǎng)引發(fā)了好萊塢以及迪士尼、任天堂等大型 IP 持有方的強(qiáng)烈關(guān)注與反對(duì)。
圖源:小紅書
針對(duì)爭(zhēng)議,OpenAI CEO薩姆奧爾特曼隨后宣布:版權(quán)所有者需主動(dòng)選擇“opt-in”,其才有機(jī)會(huì)出現(xiàn)在 Sora 2 生成的視頻里。這意味著除非版權(quán)權(quán)利人明確給予許可,否則用戶將無(wú)法通過(guò) Sora 生成任何受版權(quán)保護(hù)的角色內(nèi)容。而且版權(quán)所有者還能從 Sora 視頻所產(chǎn)生的收益中獲得相應(yīng)分成。
但話說(shuō)回來(lái),雖然平臺(tái)針對(duì)在世人群,建立了“同意參與”與“本人授權(quán)入鏡”的雙重保障機(jī)制。但當(dāng)涉及已故者時(shí),因無(wú)法獲取其本人的直接同意,這種因?qū)ο鬆顟B(tài)不同導(dǎo)致在實(shí)際運(yùn)作中出現(xiàn)了矛盾。
而 OpenAI 對(duì)于這種情況似乎采取了默認(rèn)縱容的態(tài)度。近日一位 OpenAI 發(fā)言人透露:“我們目前暫無(wú)更多評(píng)論,不過(guò)確實(shí)允許生成歷史人物的形象。”
說(shuō)到最后,針對(duì)本次事件,你們認(rèn)為在科技發(fā)展與倫理之間,咱們究竟該何去何從?是追逐科技的狂飆突進(jìn),還是一味堅(jiān)守倫理而束縛科技發(fā)展?歡迎在評(píng)論區(qū)留言說(shuō)下你的見解。
原文標(biāo)題 : 爆火全網(wǎng)的OpenAI Sora2,已經(jīng)被網(wǎng)友們“玩壞”了!

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
-
馬云重返一線督戰(zhàn),阿里重啟創(chuàng)始人模式
-
機(jī)器人奧運(yùn)會(huì)戰(zhàn)報(bào):宇樹機(jī)器人摘下首金,天工Ultra搶走首位“百米飛人”
-
存儲(chǔ)圈掐架!江波龍起訴佰維,索賠121萬(wàn)
-
長(zhǎng)安汽車母公司突然更名:從“中國(guó)長(zhǎng)安”到“辰致科技”
-
豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
-
字節(jié)AI Lab負(fù)責(zé)人李航卸任后返聘,Seed進(jìn)入調(diào)整期
-
員工持股爆雷?廣汽埃安緊急回應(yīng)
-
中國(guó)“智造”背后的「關(guān)鍵力量」
最新活動(dòng)更多
-
10月23日火熱報(bào)名中>> 2025是德科技創(chuàng)新技術(shù)峰會(huì)
-
10月23日立即報(bào)名>> Works With 開發(fā)者大會(huì)深圳站
-
10月24日立即參評(píng)>> 【評(píng)選】維科杯·OFweek 2025(第十屆)物聯(lián)網(wǎng)行業(yè)年度評(píng)選
-
即日-11.25立即下載>>> 費(fèi)斯托白皮書《柔性:汽車生產(chǎn)未來(lái)的關(guān)鍵》
-
11月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
12月18日立即報(bào)名>> 【線下會(huì)議】OFweek 2025(第十屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
推薦專題
-
10 大模型的盡頭是開源
- 1 特斯拉工人被故障機(jī)器人打成重傷,索賠3.6億
- 2 【行業(yè)深度研究】退居幕后四年后,張一鳴終于把算法公司變成AI公司?
- 3 AI 時(shí)代,阿里云想當(dāng)“安卓” ,那誰(shuí)是“蘋果”?
- 4 華為公布昇騰芯片三年計(jì)劃,自研HBM曝光
- 5 硬剛英偉達(dá)!華為發(fā)布全球最強(qiáng)算力超節(jié)點(diǎn)和集群
- 6 機(jī)器人9月大事件|3家國(guó)產(chǎn)機(jī)器人沖刺IPO,行業(yè)交付與融資再創(chuàng)新高!
- 7 谷歌“香蕉”爆火啟示:國(guó)產(chǎn)垂類AI的危機(jī)還是轉(zhuǎn)機(jī)?
- 8 00后華裔女生靠?jī)刹緼I電影狂賺7.8億人民幣,AI正式進(jìn)軍好萊塢
- 9 美光:AI Capex瘋投不止,終于要拉起存儲(chǔ)超級(jí)周期了?
- 10 華為已殺入!AI領(lǐng)域最熱黃金賽道,大廠的數(shù)字人美女讓我一夜沒睡著覺