訂閱
糾錯(cuò)
加入自媒體

爆火全網(wǎng)的OpenAI Sora2,已經(jīng)被網(wǎng)友們“玩壞”了!

2025-10-09 17:02
雷科技
關(guān)注

科技與倫理大戰(zhàn)一觸即發(fā)。

10月9日消息,日前AI圈的焦點(diǎn)幾乎被OpenAI新發(fā)布的Sora2模型所占據(jù)。這款融合了AI視頻生成與社交互動(dòng)的創(chuàng)新產(chǎn)品,在短短數(shù)日內(nèi)便成為各大社交平臺(tái)的熱門話題之一。

微信圖片_20251009152409_副本.png

圖源:App Store

記得當(dāng)時(shí) OpenAI 剛推出 Sora 2 視頻生成器時(shí)就曾公布:公司默認(rèn)禁止“生成公眾人物的形象”。

但最近Sora 2 的創(chuàng)作者在使用過(guò)程中意外發(fā)現(xiàn),該限制存在一個(gè)BUG。就是系統(tǒng)并未限制生成與已故公眾人物相關(guān)的視頻內(nèi)容。

這下可不得了,大量Sora 2用戶利用此漏洞,對(duì)已故名人的形象進(jìn)行復(fù)刻、拼接,甚至以不尊重的方式進(jìn)行二次創(chuàng)作。

微信圖片_20251009151813_副本.png

圖源:微博

可以發(fā)現(xiàn),目前短視頻平臺(tái)上充斥著大量借助 AI 技術(shù)讓已故名人“重返人間”的內(nèi)容。

那些已然離世的演員、音樂(lè)家、科學(xué)家紛紛重新”出現(xiàn)”在人們的視野之中,但被迫“說(shuō)出”他們從未講過(guò)的話語(yǔ),甚至一些視頻中含有不尊重已故者的行為。

舉個(gè)例子:“邁克爾·杰克遜激情獻(xiàn)唱全新說(shuō)唱曲目”、“功夫巨星布魯斯·李化身酷炫 DJ 打碟”、“肯尼迪總統(tǒng)親自上陣,為黑五折扣瘋狂吆喝”這類抽象又吸睛的場(chǎng)景。

這些視頻顯然成為了對(duì)公共倫理底線的挑釁以及對(duì)逝者尊嚴(yán)的肆意踐踏。

更讓人難以接受的是,就連鼎鼎大名的物理學(xué)家蒂芬·霍金都被人惡搞。有人利用 Sora2 生成了讓霍金坐著他那標(biāo)志性的輪椅,去挑戰(zhàn)極具刺激性的U型滑池。

image.png

圖源:小紅書

視頻中只見“霍金”搖搖晃晃地操控著輪椅,緩緩來(lái)到U型滑池前。令人意想不到的是他順著滑池滑了下去。而更讓人驚掉下巴的是,他仿佛借助這股沖勁一飛沖天,真的“飛”上了天。

這種惡搞視頻引發(fā)了社會(huì)各界的廣泛譴責(zé)。網(wǎng)友們紛紛指責(zé)這不僅是對(duì)已故科學(xué)家個(gè)人尊嚴(yán)的嚴(yán)重踐踏,更是對(duì)身障群體的一種冒犯。

雖然OpenAI 采取了在每段生成視頻中疊加動(dòng)態(tài)水印的措施,試圖借此減少觀眾受虛假影像誤導(dǎo)的可能性。然而當(dāng)人們目睹已故名人被 AI 工具肆意當(dāng)作創(chuàng)作素材時(shí),其在世的親屬以及粉絲難免會(huì)深感憤懣。

此前 OpenAI 就曾因 Sora 處理虛構(gòu)版權(quán)作品的方式而陷入爭(zhēng)議。

Sora2 剛推出時(shí),OpenAI 在版權(quán)內(nèi)容使用上是“默認(rèn)允許使用,版權(quán)權(quán)利人需自行選擇“Opt-Out”。但這一立場(chǎng)引發(fā)了好萊塢以及迪士尼、任天堂等大型 IP 持有方的強(qiáng)烈關(guān)注與反對(duì)。

004fb4aa90a351640c8a1e614b416dc.jpg

圖源:小紅書

針對(duì)爭(zhēng)議,OpenAI CEO薩姆奧爾特曼隨后宣布:版權(quán)所有者需主動(dòng)選擇“opt-in”,其才有機(jī)會(huì)出現(xiàn)在 Sora 2 生成的視頻里。這意味著除非版權(quán)權(quán)利人明確給予許可,否則用戶將無(wú)法通過(guò) Sora 生成任何受版權(quán)保護(hù)的角色內(nèi)容。而且版權(quán)所有者還能從 Sora 視頻所產(chǎn)生的收益中獲得相應(yīng)分成。

但話說(shuō)回來(lái),雖然平臺(tái)針對(duì)在世人群,建立了“同意參與”與“本人授權(quán)入鏡”的雙重保障機(jī)制。但當(dāng)涉及已故者時(shí),因無(wú)法獲取其本人的直接同意,這種因?qū)ο鬆顟B(tài)不同導(dǎo)致在實(shí)際運(yùn)作中出現(xiàn)了矛盾。

而 OpenAI 對(duì)于這種情況似乎采取了默認(rèn)縱容的態(tài)度。近日一位 OpenAI 發(fā)言人透露:“我們目前暫無(wú)更多評(píng)論,不過(guò)確實(shí)允許生成歷史人物的形象。”

說(shuō)到最后,針對(duì)本次事件,你們認(rèn)為在科技發(fā)展與倫理之間,咱們究竟該何去何從?是追逐科技的狂飆突進(jìn),還是一味堅(jiān)守倫理而束縛科技發(fā)展?歡迎在評(píng)論區(qū)留言說(shuō)下你的見解。

       原文標(biāo)題 : 爆火全網(wǎng)的OpenAI Sora2,已經(jīng)被網(wǎng)友們“玩壞”了!

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)