【ITBEAR科技資訊】4月17日消息,OPENAI今日發(fā)布了一項新的API,專為需要處理大量內(nèi)容的開發(fā)者設(shè)計。該批量處理API允許開發(fā)者一次性提交大量數(shù)據(jù),并在24小時內(nèi)接收處理結(jié)果,從而極大地提升了處理效率。
這一新功能的推出,不僅為開發(fā)者帶來了便利,同時也對OPENAI自身運營有所裨益。據(jù)悉,OPENAI可以在服務(wù)器非高峰時段處理這些請求,更有效地平衡服務(wù)器資源,節(jié)約成本。為此,OPENAI為使用這項異步任務(wù)API的開發(fā)者提供了半價優(yōu)惠,他們只需支付原價的50%。
據(jù)ITBEAR科技資訊了解,當(dāng)需要對大量的文本、摘要、翻譯或圖像進行分類整理時,開發(fā)者可以利用這個新API進行批量處理。盡管結(jié)果并非實時返回,但對于對及時性要求不高的任務(wù)來說,這無疑大大提升了工作效率。此外,除了享受半價折扣,開發(fā)者還能獲得更高的請求速率,即每分鐘可以提交更多的請求。
使用這項新服務(wù)時,開發(fā)者需要通過JSONL文件格式進行數(shù)據(jù)傳輸。具體來說,他們需要將所有需要處理的請求集中在一個JSONL文件中,然后通過batch參數(shù)上傳到服務(wù)器。
OPENAI已經(jīng)在API文檔中詳細說明了如何使用這項新服務(wù),包括如何創(chuàng)建批處理、設(shè)置請求正文、以及結(jié)果檢索等步驟。有需求的開發(fā)者可以訪問OPENAI的官方網(wǎng)站查看具體的調(diào)用示例。