開放人工智慧正在限制對真人的描繪，並採取其他嚴格的安全措施來防止濫用。
該影片產生器於週一作為 12 天 OpenAI 活動的一部分宣布，具有各種編輯功能，供用戶創建和自訂 AI 生成的影片。但作為用戶，有些事情你不能對 Sora 做發現。
推文可能已被刪除
根據其系統卡，“上傳人物圖像的能力將提供給部分用戶”，這意味著大多數用戶無法根據上傳的圖像創建人物影片。這些用戶是 OpenAI 正在對少數用戶進行測試的「相似度試點」的一部分。 OpenAI 發言人表示，人工智慧生成的人物影片受到限制，以「解決有關盜用肖像和深度偽造的擔憂」。發言人繼續說道，OpenAI“將積極監控濫用模式，當我們發現濫用模式時，我們將刪除內容，與用戶採取適當的行動，並利用這些早期經驗來迭代我們的安全方法。”
可混搭光速
從責任的角度來看，限制 Sora 影片中的人物描述是有意義的。該工具可能會以多種方式被濫用：未經同意的深度偽造、對未成年人的描述、詐騙和錯誤訊息等等。為了解決這個問題，Sora 經過訓練可以拒絕來自文字提示或圖像上傳的某些請求。
它將拒絕 NSFW（工作不安全）和 NCII（非自願親密圖像）內容的提示以及現實兒童的生成，但允許虛構圖像。 OpenAI 已將 C2PA 元資料新增至所有 Sora 影片中，並將可見浮水印設為預設值（儘管可以刪除），並實作內部反向影像搜尋來評估影片的來源。
儘管已經設置了許多護欄來防止濫用，但 Sora 將如何應對大規模壓力測試的問題仍然存在。目前，由於以下原因，無法訪問 Sora高需求。
