大模型增強(qiáng)
業(yè)務(wù)協(xié)作
行業(yè)解決方案
互聯(lián)網(wǎng) 平臺互聯(lián)網(wǎng) 垂直互聯(lián)網(wǎng)
企業(yè)服務(wù) 軟件與信息服務(wù)
汽車行業(yè) 汽車行業(yè)
物流快遞 物流快遞
地產(chǎn)家居 房地產(chǎn)行業(yè)
教育 教育行業(yè)
原創(chuàng)
2025/02/19 15:27:31
來源:天潤融通
952
本文摘要
現(xiàn)如今,應(yīng)用大模型的企業(yè)會有一個問題,開源和閉源會有什么不同?具體到客戶服務(wù)場景,開源和閉源應(yīng)該如何選擇?本篇文章天潤融通為您解析
DeepSeek正在帶動一場開源熱潮。
2月14日,百度宣布6月30日將會開源文心大模型系列。
百度開源之后不久,OpenAI CEO山姆·奧特曼(Sam Altman)也在X平臺上發(fā)起投票,詢問網(wǎng)友下一個開源項(xiàng)目做什么比較好。這則消息透露出OpenAI也有意開源某個大模型項(xiàng)目。
在這之前,無論是百度還是OpenAI,都曾是閉源大模型的堅(jiān)定支持者。只是在DeepSeek的帶動下,開源越來越成為一種趨勢,成為更多大模型企業(yè)的選擇。
但這也給應(yīng)用大模型的企業(yè)帶來一個問題,開源和閉源會有什么不同?具體到客戶服務(wù)場景,開源和閉源應(yīng)該如何選擇?
所謂開源大模型,通常指在開放源代碼協(xié)議下發(fā)布的大模型,它允許軟件的源代碼被公眾自由地使用、研究、修改和分發(fā),比如DeepSeek。
相應(yīng)地,閉源大模型就是指源代碼和內(nèi)部工作機(jī)制不對外公開的大模型。比如GPT-4,企業(yè)想要使用相關(guān)能力需要向OpenAI申請,并支付一定費(fèi)用。
關(guān)于開源大模型,大家最大認(rèn)知可能就是“免費(fèi)”,這也是開源大模型最有競爭力的地方之一。
我們舉個例子,如果以私有化的方式部署一套客戶服務(wù)系統(tǒng)。
采用開源大模型的情況下,企業(yè)需要支付大量前期成本,包括購買/租用服務(wù)器、建設(shè)和維護(hù)數(shù)據(jù)中心,以及雇傭相關(guān)人員對模型進(jìn)行調(diào)優(yōu)和部署等等。
但這些費(fèi)用只存在于前期,相關(guān)建設(shè)完成后,企業(yè)無需再為之后的模型使用付費(fèi)。但如果使用閉源大模型,則在前期投入的基礎(chǔ)上,后續(xù)還要一直按照Token用量為模型付費(fèi)。
如果在公有云或第三方平臺上部署客戶服務(wù)系統(tǒng)。
使用開源大模型的情況下,企業(yè)不需要為模型本身支付費(fèi)用,因?yàn)樽裱_源協(xié)議,模型是免費(fèi)的。企業(yè)只需要向云廠商支付云服務(wù)費(fèi)用,比如計(jì)算資源(如CPU、GPU)、存儲、數(shù)據(jù)傳輸和可能的額外服務(wù)(如負(fù)載均衡、自動擴(kuò)展等)。
使用閉源大模型的情況下,企業(yè)還需要為模型支付費(fèi)用,比如OpenAI-o1模型的輸入價(jià)格為15美元/百萬tokens,輸出價(jià)格為60美元/百萬tokens。
總結(jié)來說,使用開源大模型無需為模型付費(fèi),只需要支付算力、存儲等相關(guān)成本;而閉源大模型則可能在相關(guān)費(fèi)用的基礎(chǔ)上,加上模型的許可或使用費(fèi)用。
即在如金融、電商、銀行等客戶服務(wù)場景,客戶咨詢量足夠大的情況下,使用開源大模型進(jìn)行私有化部署后,長期使用成本更低。但如果客戶咨詢量不多,使用公有云會更加劃算。
對于企業(yè)應(yīng)用而言,關(guān)鍵在于找到其中的平衡點(diǎn)。
那么僅考慮模型使用效果,開源大模型是不是比閉源大模型更好?答案也不一定。
從應(yīng)用企業(yè)的角度來講,開源大模型除了成本之外,還有這些優(yōu)勢:
專屬1v1客服
為您提供最全面的咨詢服務(wù)
掃碼立即咨詢