從早期的Unix生態系統再到如今的生成式AI和云計算,開源技術一直在計算機科學技術的發展中扮演著十分重要的角色,多年以來,開源運動一直都在驅動著創新、協作和共享知識的進步,并在計算機技術發展的每個階段都彰顯出了低準入門檻、加速創新、促進社區合作與共享成果的獨特優勢。
作為一家企業開源解決方案提供商,紅帽自成立以來一直以開源為核心,致力于通過促進技術的開放和共享,降低AI的應用門檻,在近日舉辦的2024紅帽論壇期間,紅帽全球副總裁兼大中華區總裁曹衡康(Victor Tsao)就強調,要真正解鎖開源AI的無限可能,企業必須首先深入理解技術發展的內在邏輯與未來趨勢,同時緊密貼合企業IT的現實需求與長遠規劃。
他表示,當下諸多企業都希望借助AI提升生產力,拓展新的商業機會,在這樣的背景之下,通過開源方法加速企業AI應用成為了大勢所趨。而為了進一步滿足客戶在成本方面的訴求,紅帽還提出了分步實施的策略,即“企業AI應用三步曲”。
具體來說,在第一步,客戶可以在最小資源配置的前提下試用開源模型和工具,比如在筆記本電腦上用CPU試跑,而不需要額外的GPU卡。
如果對客戶對測試效果滿意,就可以進入第二步,即通過云服務租用算力進行進一步擴展,由于紅帽平臺幾乎可以在任何云上運行,客戶可以選擇通過企業的數據中心或者公有云資源來進行部署,如果模型確實符合實際需求,就可以實現第三步的大規模部署了。
值得一提的是,在客戶進行第三步的大規模部署時,也無需擔心跨云的問題,由于紅帽架構支持跨云的混合部署,因此客戶可以選擇在不同的國家通過不同的云服務提供商來部署,從而實現更加靈活的架構和更經濟的成本,并最終實現最佳的投資回報率。
為了能夠讓客戶更加順利地實施三步曲,紅帽還和IBM聯合發起了開源社區項目InstructLab,與開源的大語言模型Granite相輔相成。紅帽大中華區方案架構部總經理王慧慧(Aella Wang)表示,設計InstructLab有兩個主要目的,第一是可以讓客戶基于Granite模型,使用InstructLab和自身數據訓練出符合需求的模型。InstructLab的輸出分為“知識”和“技能”兩部分,均可留在企業內部自用。第二則是通過InstructLab可以把知識和技能反饋到上游的管理機構中,在管理機構收到客戶反饋的更新之后,可以將其整合到社區版本的Granite中并發布新版本。換句話說,InstructLab是連接社區和客戶的橋梁。
眾所周知,場景應用是AI實現賦能的“最后一公里”,在大模型炙手可熱的當下,雖然很多企業都在嘗試通過大模型提升生產效率,但“理想很豐滿,現實很骨感”,多數大模型實際上并不適合實際的生產場景,因為一點小錯就可能帶來風險。反而是參數數量較少,訓練數據相對有限的小模型,雖然在多任務或者泛化能力方面不及大模型,但在特定任務或者領域的表現要比大模型更好。
因此,紅帽在幾年前就提出了專屬模型(faithful purpose)的概念,通過專屬模型,可以讓企業的數據用來驅動AI模型的生成,在確保模型穩定安全的前提下,符合企業的特定需求,上文提到的InstructLab也正是基于這一理念而誕生的。
此外,紅帽還引入了“社區版”小模型,通過合成數據大幅減少對真實數據的需求,可以降數據量降到原來的千分之一。這種方式不僅降低了算力需求,節約了成本,造成的能耗也大幅減少,對環境更加友好。
同時,通過構建“開放實驗室”的概念,紅帽可以與客戶的顧問團隊合作,針對企業的研發、生產、市場行銷和客戶支持等環節,一起找出最具效能的應用場景。從一個小應用成功起步,再逐步擴展到更大的場景。
“場景應用是ISV(獨立軟件開發商)和應用供應商最擅長的領域,由于許多企業和行業都有各自的特點,因此紅帽也在加速和本土ISV和方案開發商的合作,此外我們也特別關注共創模式(co-creation),通過與ISV共創,結合各行業的獨特場景和聯合解決方案,可以幫助企業更快地實現AI應用落地。”紅帽大中華區資深市場總監趙文斌(Max Zhao)補充道。
最后在中國本土推動開源AI方面,紅帽也有相應的計劃,具體來說,第一步是通過各種市場渠道推廣AI的獨特功能和優勢;第二步是通過合作伙伴生態,賦能合作伙伴的技術和顧問團隊,使他們更深入地了解紅帽的AI技術,從而更好地支持客戶;第三步則是通過開放實驗室,與客戶共同探討如何將AI技術應用到企業的實際場景中。
據悉,國內的某家保險公司已經在使用紅帽的AI技術來加速代碼審查和代碼合并請求的處理了,此前這家公司在使用舊工具時,會經常面臨準確率低的問題,有些時候準確率甚至不及95%,這在實際的生產環境中顯然會造成不小的問題,在引入紅帽的AI工具后,代碼合并和審查的準確率大大提升,達到了這家客戶的高標準。
在2024紅帽論壇期間,紅帽也宣布了2024紅帽亞太創新獎中國區獲獎名單,安利和西門子工業自動化產品(成都)有限公司獲得該獎項。其中,西門子工業自動化產品(成都)有限公司(SEWC)作為西門子德國安貝格(Amberg)的姐妹工廠,享有全球最先進工廠之一的聲譽。為跟上現代數字化生產應用的步伐,SEWC面臨著生產連續性受到挑戰的困境,包括系統靈活性和可擴展性不足、開發效率低下,以及操作不便等問題。該工廠通過部署紅帽OpenShift,打造了MEMO(制造運營模塊化生態系統)生產支持系統,該系統顯著提升了生產線工人的用戶體驗和工作效率,將前沿理念付諸實踐,為工業自動化制造執行系統的軟件應用樹立了新的標桿。
西門子工業自動化(成都)有限公司信息技術部經理楊健在接受采訪時也分享了和紅帽合作的感受,他表示,與其他的供應商相比,紅帽在響應速度和責任感方面的表現十分突出,在AI技術環境快速變化的當下,企業在部署AI時也要不斷進行調優和改進,而紅帽則在這個過程中保持了謙虛友好的態度,這種共創模式的合作環境非常寶貴,也是西門子選擇紅帽平臺的重要原因。
同時他也表示,在采用紅帽的解決方案以后,工廠實現了從單體架構向微服務分布式架構的轉型。這樣帶來了兩個優勢,第一是可以在不停機的情況下進行維護、升級和變更;第二是每次變更可以針對更小的范圍,便于精準控制和資源調度,這種轉型也會成為制造業未來發展的一大趨勢。
面向未來,除了繼續在微服務平臺上探索以外,西門子也計劃在虛擬化領域與紅帽展開更多合作,從而實現對部分現有方案的替代,未來西門子也會進一步研究如何將AI平臺更好地整合到自身的資源體系中,以進一步優化制造流程。