OpenAI近日推出首款社交媒體應(yīng)用Sora，該產(chǎn)品由視頻生成模型Sora 2驅(qū)動(dòng)，提供類(lèi)似TikTok的AI視頻流服務(wù)。然而，這款應(yīng)用的上線在內(nèi)部引發(fā)了激烈討論，多位現(xiàn)任及前任研究員公開(kāi)表達(dá)了對(duì)技術(shù)倫理與商業(yè)化的雙重?fù)?dān)憂(yōu)。

據(jù)科技媒體報(bào)道，Sora應(yīng)用中充斥著大量AI生成的短視頻內(nèi)容，其中不乏針對(duì)OpenAI首席執(zhí)行官薩姆·奧特曼的深度偽造影像。這種技術(shù)濫用現(xiàn)象迅速引發(fā)爭(zhēng)議，部分研究員認(rèn)為該產(chǎn)品可能背離公司“開(kāi)發(fā)造福人類(lèi)的先進(jìn)AI”的初衷。

OpenAI預(yù)訓(xùn)練研究員約翰·霍爾曼在社交平臺(tái)發(fā)文稱(chēng)：“基于AI的信息流存在潛在風(fēng)險(xiǎn)。得知公司要發(fā)布Sora 2時(shí)，我確實(shí)感到不安。盡管團(tuán)隊(duì)在優(yōu)化用戶(hù)體驗(yàn)方面付出了巨大努力，但我們必須持續(xù)關(guān)注技術(shù)對(duì)社會(huì)的實(shí)際影響?！彼麖?qiáng)調(diào)，確保AI技術(shù)服務(wù)于人類(lèi)福祉應(yīng)當(dāng)是首要原則。

哈佛大學(xué)教授、OpenAI研究員博阿茲·巴拉克在回應(yīng)霍爾曼時(shí)指出：“Sora 2的技術(shù)突破令人驚嘆，但現(xiàn)在就斷言我們成功規(guī)避了社交媒體和深度偽造技術(shù)的負(fù)面影響還為時(shí)尚早。其他平臺(tái)的歷史教訓(xùn)表明，這類(lèi)技術(shù)可能被用于制造虛假信息或操縱公眾認(rèn)知?！?/p>

面對(duì)內(nèi)部質(zhì)疑，奧特曼在社交媒體發(fā)文解釋公司的戰(zhàn)略選擇。他表示：“理解大家的擔(dān)憂(yōu)，但我們必須平衡理想與現(xiàn)實(shí)。將大部分資源投入AGI研發(fā)的同時(shí)，展示前沿技術(shù)成果既能激發(fā)公眾興趣，也能為龐大的算力需求提供資金支持。就像ChatGPT推出時(shí)，很多人質(zhì)疑‘這和AGI有什么關(guān)系’，但技術(shù)發(fā)展需要循序漸進(jìn)?！?/p>

這場(chǎng)爭(zhēng)論暴露了OpenAI長(zhǎng)期面臨的矛盾：作為非營(yíng)利機(jī)構(gòu)，其使命是確保AI技術(shù)安全發(fā)展；但作為需要持續(xù)融資的科技公司，商業(yè)化進(jìn)程又不可避免。這種矛盾在監(jiān)管審查加劇的背景下顯得尤為突出——加州總檢察長(zhǎng)上月明確表示，將重點(diǎn)關(guān)注OpenAI轉(zhuǎn)型過(guò)程中的安全使命落實(shí)情況。

業(yè)內(nèi)人士指出，Sora應(yīng)用的爭(zhēng)議反映了AI技術(shù)快速發(fā)展的普遍困境：如何在技術(shù)創(chuàng)新與社會(huì)責(zé)任之間找到平衡點(diǎn)。隨著各國(guó)監(jiān)管機(jī)構(gòu)加強(qiáng)對(duì)生成式AI的管控，科技公司的倫理決策將面臨更嚴(yán)格的審視。