近日,谷歌發布了其最新的Gemma 3人工智慧模型,這款模型旨在優化在單一GPU上的運行,並以開源的形式向外部開放。根據Ars Technica的報導,Gemma 3被稱為「世界上最好的單一加速器模型」,可兼容多達27億參數的版本,並且能在較低的硬體需求下運行。
這款AI模型設計了多個版本,從僅需1億參數的輕量級模型到需30GB RAM的超大版本。其中,使用較低精度的最小Gemma 3模型甚至可以佔用不到1GB的記憶體,但較大型版本所需的RAM處理能力則要顯著提高。根據谷歌自家提供的數據,Gemma 3在與其他開放源碼模型的比較中,無論是在聊天能力還是數學與編程的能力上,都顯示出相當明顯的提升。不過,這些數據並未包含具體的技術指標。
值得一提的是,Gemma 3的上下文窗口從舊版模型的8192個tokens大幅增至128,000個tokens,這一擴展為使用者提供了更大的靈活性和應用空間。在使用者偏好的Elo評分系統中,Gemma 3顯示出的優越性能也使其受到了熱烈歡迎,儘管在某些主觀測試中未能完全趕上某些競爭對手。
作為開源模型,Gemma 3可以在
以開源的形式下載,開發者可以使用例如Google Colab或Vertex AI等工具進行模型的微調。此外,谷歌還建立了一個名為”Gemmaverse”的社區,鼓勵開發者分享基於Gemma模型的應用案例和想法。
儘管模型開放的潛力令人期待,使用者仍需注意谷歌針對Gemma 3的許可協議限制,這意味著某些使用方式可能受到制約,但透過本地運行Gemma 3的效率將意味著用戶能夠在自己的硬體上進行探索,而非完全依賴於谷歌的服務器。對於尋求在本地進行高效AI計算的開發者和研究人員來說,Gemma 3提供了一個值得關注的選擇,它的多樣化參數設置也為用戶提供了量身定製的應對方案。