首頁 > 關(guān)于我們 > 安恒動(dòng)態(tài) > 2024 > 正文

OpenAI的Sora API泄露：API安全的又一次警鐘

閱讀量：次 文章來源：安恒信息

NEWS

OpenAI的Sora API泄露，奧特曼緊急拔網(wǎng)線

在技術(shù)圈，11月27日凌晨發(fā)生的一起事件引發(fā)熱議：OpenAI的文生視頻模型Sora的API接口遭到惡意泄露。在短短數(shù)小時(shí)內(nèi)，大量未經(jīng)授權(quán)的用戶通過泄露的接口調(diào)用模型資源，可能造成的安全與商業(yè)損失令人擔(dān)憂。這一事件迅速掀起波瀾，再次將“API安全”這一技術(shù)議題推到公眾視野的中心。

事情的起因：藝術(shù)家與OpenAI的矛盾升級

Sora是OpenAI開發(fā)的一款視頻生成工具，近期處于內(nèi)測階段，邀請了數(shù)百名藝術(shù)家參與測試，旨在通過他們的反饋完善模型。按理說，這本應(yīng)是一次雙贏的合作——藝術(shù)家提供創(chuàng)意和建議，OpenAI優(yōu)化工具。但實(shí)際情況卻讓藝術(shù)家們感到憤怒和失望。

藝術(shù)家的不滿集中在以下幾點(diǎn)：

1.?貢獻(xiàn)未得到應(yīng)有回報(bào)

藝術(shù)家為OpenAI提供了大量無償?shù)臏y試、反饋和實(shí)驗(yàn)工作，然而只有少量作品有機(jī)會(huì)通過競賽形式獲得展示機(jī)會(huì)。

2.?作品過度審核

提交的創(chuàng)作需要經(jīng)過OpenAI團(tuán)隊(duì)層層審核，展覽決定權(quán)完全掌握在官方手中，這讓藝術(shù)家們覺得創(chuàng)作自由受限，甚至淪為免費(fèi)的公關(guān)工具。

3.?缺乏尊重的合作模式

藝術(shù)家認(rèn)為，自己為估值高達(dá)1500億美元的公司提供了巨大公關(guān)價(jià)值，卻幾乎沒有實(shí)際回報(bào)。他們的創(chuàng)作更像是為OpenAI免費(fèi)制作宣傳素材。

于是，憤怒的藝術(shù)家決定采取行動(dòng)，其中一部分人選擇了“放大招”——將Sora的API泄露到開源平臺Hugging Face。

泄露的后果：Sora的API短暫“自由”

在Hugging Face平臺上，這些藝術(shù)家發(fā)布了一個(gè)接入Sora API的前端工具，任何人都可以通過它生成視頻。泄露版本支持通過簡短的文本描述生成10秒長度的視頻，分辨率可達(dá)1080P、720P和360P。更驚人的是，泄露的Sora API似乎是經(jīng)過優(yōu)化的“Turbo”版本，生成速度更快，效果令人驚艷。

這一泄露讓Sora瞬間成為公眾熱議的焦點(diǎn)，不少用戶利用這段時(shí)間生成了各種視頻。盡管工具很快被OpenAI緊急叫停，但事件的影響早已擴(kuò)散。

更有網(wǎng)友用 AI 生成了山姆·奧特曼緊急拔網(wǎng)線的惡搞視頻

藝術(shù)家們的抗議：公開信與聯(lián)名聲討

隨項(xiàng)目同時(shí)發(fā)布的還有一封言辭激烈的公開信。在信中，藝術(shù)家們將OpenAI比作“中世紀(jì)的封建領(lǐng)主”，譴責(zé)他們利用了藝術(shù)家的無私貢獻(xiàn)，卻并沒有給出合理的報(bào)酬。“我們獲得了Sora的使用權(quán)，并承諾成為早期測試者、紅隊(duì)成員和創(chuàng)意合作伙伴。然而，我們認(rèn)為，我們被引誘進(jìn)行‘藝術(shù)洗白’，以告訴世界Sora對藝術(shù)家來說是一個(gè)有用的工具。”

以下是泄露Sora人的公開信全文（翻譯）

致尊敬的企業(yè)AI霸主：

我們被承諾能夠作為Sora的早期測試者、紅隊(duì)成員以及創(chuàng)意合作伙伴參與。然而，我們認(rèn)為實(shí)際上我們被引誘參與所謂的“藝術(shù)洗白”，以證明Sora是一個(gè)對藝術(shù)家有用的工具。

藝術(shù)家不是你們的免費(fèi)研發(fā)人員

我們不是你們的：免費(fèi)漏洞測試員、公關(guān)工具、訓(xùn)練數(shù)據(jù)提供者或驗(yàn)證工具。

數(shù)百名藝術(shù)家通過漏洞測試、反饋和實(shí)驗(yàn)性工作，為一家估值1500億美元的公司無償貢獻(xiàn)勞動(dòng)。而在數(shù)百人免費(fèi)貢獻(xiàn)的基礎(chǔ)上，僅有少數(shù)人通過競爭被選中，他們的Sora創(chuàng)作作品將可能獲得展示機(jī)會(huì)——但這種回報(bào)微不足道，與OpenAI通過這些活動(dòng)獲得的巨大營銷價(jià)值相比完全不成比例。

此外，每個(gè)生成的內(nèi)容在分享之前都需要經(jīng)過OpenAI團(tuán)隊(duì)的批準(zhǔn)。這個(gè)早期訪問計(jì)劃看起來更像是一個(gè)圍繞公關(guān)和商業(yè)推廣的活動(dòng)，而不是關(guān)于創(chuàng)作自由與藝術(shù)批評的平臺。

因此我們決定開放這個(gè)工具，讓所有人都可以嘗試約300名藝術(shù)家所獲得的體驗(yàn)：免費(fèi)且無限制地訪問這個(gè)工具。

我們并不反對將AI技術(shù)作為藝術(shù)創(chuàng)作的工具（如果反對，我們大概根本不會(huì)被邀請參與這個(gè)項(xiàng)目）。但我們反對這個(gè)藝術(shù)家計(jì)劃的推出方式，以及它在可能公開發(fā)布前的演變方向。我們選擇公開分享這些內(nèi)容，希望OpenAI變得更加透明、更友好、更支持藝術(shù)家的真實(shí)表達(dá)，而不僅僅是為了公關(guān)噱頭。

我們呼吁藝術(shù)家選擇其他視頻生成工具：

開源視頻生成工具可以讓藝術(shù)家擺脫商業(yè)利益和企業(yè)公關(guān)的束縛，自由嘗試先鋒藝術(shù)創(chuàng)作。我們也邀請藝術(shù)家使用自己的數(shù)據(jù)集訓(xùn)練屬于自己的模型。

以下是一些可用的開源視頻工具：

CogVideoX

Mochi 1

LTX Video

Pyramid Flow

當(dāng)然，我們也意識到，并不是每個(gè)人都有運(yùn)行這些開源工具和模型所需的硬件或技術(shù)能力。因此，我們也呼吁工具開發(fā)者傾聽藝術(shù)家的需求，為藝術(shù)家的自由表達(dá)之路提供支持，并給予他們公平的報(bào)酬。

祝創(chuàng)作愉快。

部分內(nèi)測Sora-alpha的藝術(shù)家（后面列舉了近20個(gè)參與方）

有意思的是，在公開信相關(guān)網(wǎng)站上，它獲得了798名聯(lián)名支持者，與OpenAI極其不對付的馬斯克也在其中。但考慮到簽名系統(tǒng)不需要嚴(yán)格的身份認(rèn)證，暫時(shí)不能確定其是否為馬斯克本人。

看似不起眼的API漏洞，為什么會(huì)成為引發(fā)大規(guī)模數(shù)據(jù)安全事故的導(dǎo)火索？

API：現(xiàn)代數(shù)字經(jīng)濟(jì)的“大門”

在數(shù)字化時(shí)代，API（應(yīng)用程序編程接口）早已成為企業(yè)系統(tǒng)之間進(jìn)行數(shù)據(jù)交互的核心紐帶。從企業(yè)角度來看，大量敏感數(shù)據(jù)如用戶的個(gè)人信息、企業(yè)的商業(yè)機(jī)密等，都通過 API 進(jìn)行傳輸和交互。一旦 API 安全出現(xiàn)漏洞，這些數(shù)據(jù)就可能落入不法分子手中。金融機(jī)構(gòu)的 API 若被攻破，客戶的賬戶信息、交易記錄等可能被竊取，進(jìn)而導(dǎo)致客戶資金受損，企業(yè)聲譽(yù)掃地。醫(yī)療行業(yè)的 API 泄露，患者的隱私數(shù)據(jù)被曝光，這不僅侵犯了患者的權(quán)益，還可能違反相關(guān)法律法規(guī)，給醫(yī)療機(jī)構(gòu)帶來巨大的法律風(fēng)險(xiǎn)。

無論是智能化應(yīng)用的創(chuàng)新，還是傳統(tǒng)業(yè)務(wù)的轉(zhuǎn)型，API都扮演著不可或缺的角色。但API也像一把雙刃劍：

1. 易暴露性：API往往對外開放，一旦驗(yàn)證機(jī)制薄弱或密鑰管理不善，就容易成為攻擊者的突破口。

2. 高價(jià)值性：通過API直接訪問核心功能或敏感數(shù)據(jù)，攻擊成本低但潛在收益高。

3. 難管控性：隨著企業(yè)API數(shù)量的激增，缺乏全面的安全監(jiān)控和防護(hù)體系，難以及時(shí)發(fā)現(xiàn)和阻止攻擊。

像Sora事件這樣的API泄露，可能只是冰山一角。更多的安全風(fēng)險(xiǎn)往往在暗處醞釀，直至爆發(fā)。

典型的API安全威脅

OWASP Top 10 API Security Risks – 2023清單

每一種威脅的背后，都可能造成不可挽回的經(jīng)濟(jì)損失、品牌聲譽(yù)受損以及監(jiān)管罰款等問題。

安恒信息API安全實(shí)踐

打造動(dòng)態(tài)安全防護(hù)體系

為避免API接口遭受攻擊與威脅，應(yīng)當(dāng)優(yōu)先解決API資產(chǎn)管理的問題。

由于API數(shù)量快速增加，復(fù)雜性日益提升，API資產(chǎn)管理變得越來越困難。安恒信息API風(fēng)險(xiǎn)監(jiān)測系統(tǒng)是一款集簡單易用、風(fēng)險(xiǎn)監(jiān)測準(zhǔn)確、場景覆蓋全面、資產(chǎn)運(yùn)營高效、數(shù)據(jù)操作全面留痕特點(diǎn)于一身的API數(shù)據(jù)安全產(chǎn)品。該產(chǎn)品不侵入業(yè)務(wù)，通過旁路部署即可輕松實(shí)現(xiàn)API 資產(chǎn)動(dòng)態(tài)梳理和 API 風(fēng)險(xiǎn)監(jiān)測。

2023年，安恒信息API風(fēng)險(xiǎn)監(jiān)測系統(tǒng)已通過信通院全面測試評估，在 API 資產(chǎn)管理、API 安全監(jiān)測、API 安全防護(hù)、API 審計(jì)四大安全模塊的成熟度評測中均達(dá)到“先進(jìn)級（最高級）”要求，成為全國首批通過API安全能力評估的產(chǎn)品。

通過部署安恒API安全網(wǎng)關(guān)系統(tǒng)，可統(tǒng)一為API提供訪問身份認(rèn)證、權(quán)限控制、訪問監(jiān)控、動(dòng)態(tài)脫敏、流量管控、流量加密等機(jī)制，通過阻止大部分潛在攻擊流量，使其無法到達(dá)真正的API服務(wù)側(cè)，并對API訪問進(jìn)行全程監(jiān)控，保障API的安全調(diào)用及訪問可視。

安恒API安全網(wǎng)關(guān)系統(tǒng)還可定期更新病毒庫與安全防御規(guī)則，及時(shí)修復(fù)潛在漏洞和缺陷，在不斷完善API接口安全風(fēng)險(xiǎn)防范的同時(shí)，最大程度地保障API接口的穩(wěn)定運(yùn)行。

案例：某汽車企業(yè)API暴露面監(jiān)測項(xiàng)目?

背景與挑戰(zhàn)

某集團(tuán)作為一家特大型國有汽車企業(yè)，其產(chǎn)銷一直在中國的汽車產(chǎn)業(yè)處于領(lǐng)先地位。該集團(tuán)核心業(yè)務(wù)與內(nèi)外部數(shù)據(jù)處理高度依賴API，然而，敏感數(shù)據(jù)的調(diào)用和流轉(zhuǎn)不透明，缺乏有效的數(shù)據(jù)安全監(jiān)測手段，難以指導(dǎo)實(shí)施有效的防護(hù)措施，導(dǎo)致數(shù)據(jù)安全責(zé)任難以落實(shí)。

僅集團(tuán)內(nèi)部對外暴露的 API 數(shù)量就達(dá)到了 2W+，缺乏有效的手段梳理 API 資產(chǎn)清單，存在存量資產(chǎn)管理不當(dāng)?shù)陌踩[患。

在對 API 資產(chǎn)無法梳理清楚的情況下，更無法感知對外暴露的 API 是否存在脆弱性風(fēng)險(xiǎn)和行為風(fēng)險(xiǎn)，以及是否可能存在敏感數(shù)據(jù)泄露。

解決方案與收益

通過旁路部署API風(fēng)險(xiǎn)監(jiān)測工具，從網(wǎng)絡(luò)流量中自動(dòng)發(fā)現(xiàn)目標(biāo)系統(tǒng)存在的API資產(chǎn)并納入管理?；诒O(jiān)測API資產(chǎn)被訪問的情況，針對數(shù)據(jù)接口可能面臨的脆弱性風(fēng)險(xiǎn)和數(shù)據(jù)泄露、濫用等問題，實(shí)現(xiàn)數(shù)據(jù)接口鑒權(quán)失效風(fēng)險(xiǎn)、資產(chǎn)信息泄漏風(fēng)險(xiǎn)、敏感數(shù)據(jù)暴露風(fēng)險(xiǎn)、接口訪問行為風(fēng)險(xiǎn)、用戶實(shí)體異常行為風(fēng)險(xiǎn)等場景監(jiān)測，并具備對發(fā)現(xiàn)的安全風(fēng)險(xiǎn)進(jìn)行取證和溯源的分析能力。

動(dòng)態(tài)資產(chǎn)梳理：系統(tǒng)共識別到2000+對外暴露的應(yīng)用系統(tǒng)、2W+API 。并發(fā)現(xiàn)疑似下線應(yīng)用 15 個(gè) 、API 378個(gè)。這不僅可以幫助企業(yè)更好地理解和管理API資產(chǎn)，也是識別并解決安全問題的重要依據(jù)。

智能風(fēng)險(xiǎn)監(jiān)測：此次系統(tǒng)共識別發(fā)現(xiàn) 1900 個(gè) API 存在高危脆弱性風(fēng)險(xiǎn)，發(fā)現(xiàn)一起每日 0-2 點(diǎn)黑客暴力破解的攻擊行為。系統(tǒng)持續(xù)監(jiān)控API的脆弱性、合規(guī)、攻擊行為，讓企業(yè)能夠及時(shí)了解風(fēng)險(xiǎn)，防范在先，扼殺事件發(fā)生的可能。

API全流量審計(jì)：系統(tǒng)全面記錄API的所有操作，形成詳細(xì)的審計(jì)日志。這不僅可以幫助查明問題的原因，也使得API的調(diào)用更為透明，防止不正當(dāng)操作和攻擊行為。

這三大功能共同保證了“數(shù)據(jù)資產(chǎn)可管、安全風(fēng)險(xiǎn)可見、API操作全面留痕”。

啟示借鑒

隨著API成為企業(yè)核心業(yè)務(wù)能力的關(guān)鍵支撐,API安全管理的重要性逐漸凸顯。API風(fēng)險(xiǎn)監(jiān)測工具的應(yīng)用可以全面強(qiáng)化 API安全管理,實(shí)現(xiàn)從API資產(chǎn)發(fā)現(xiàn)、安全風(fēng)險(xiǎn)監(jiān)測到漏洞修復(fù)的閉環(huán)管理。這在一定程度上可以保證API的安全可靠, 減少數(shù)據(jù)泄露、服務(wù)中斷等安全事件的發(fā)生。

寫在最后：

API安全的未來，不止于被動(dòng)防護(hù)

OpenAI Sora事件讓我們深刻認(rèn)識到，API作為現(xiàn)代技術(shù)生態(tài)的基礎(chǔ)設(shè)施，亟需從設(shè)計(jì)到運(yùn)行的全方位防護(hù)。企業(yè)不僅要關(guān)注技術(shù)的先進(jìn)性，更要確保這些技術(shù)的安全性和可控性。

安恒信息將持續(xù)以全、智、聯(lián)的動(dòng)態(tài)全過程安全體系為核心，推動(dòng)API安全技術(shù)的深入發(fā)展，助力企業(yè)應(yīng)對更多未知的挑戰(zhàn)。

安全不止于此，未來由你我共同守護(hù)。

關(guān)閉

云安全>

態(tài)勢感知>

物聯(lián)網(wǎng)安全>

工業(yè)互聯(lián)網(wǎng)安全>

新型智慧城市>

>

新一代安全服務(wù)>

偵測服務(wù)>

保護(hù)檢測服務(wù)>

監(jiān)控分析服務(wù)>

應(yīng)急服務(wù)>

運(yùn)營管理服務(wù)>

特色服務(wù)>

安全管理>

數(shù)據(jù)安全>

網(wǎng)絡(luò)安全>

應(yīng)用安全>

端點(diǎn)安全>

>

商用密碼>