開源且能力比肩o1!阿里、幻方相繼發佈重磅新品,推理大模型直逼OpenAI
在OpenAI發佈具有突破性推理能力的模型後,人工智能的推理能力競賽已然打響,阿里、幻方相繼發佈重磅新品,不僅性能比肩o1模型而且是開源!
週四,阿里通義千問推出QwQ-32B-Preview開源模型,包含325億個參數,能夠處理最長32000 個 tokens的提示詞。在 AIME和MATH基準測試中,表現優於OpenAI推理模型o1-preview 和 o1-mini。
QwQ是少數能與o1匹敵的模型之一,其在數學和編程領域,尤其在需要深度推理的複雜問題上表現出色,而且它可以用於商業應用。
上週,量化巨頭幻方DeepSeek-R1-Lite模型,Preview版在難度較高數學和代碼任務上超越o1-preview,大幅領先GPT-4o等。在AIME測試基準中,隨着計算時間增加,其得分穩步提升。
值得一提的是,官方還表示,目前模型仍在開發階段,經持續迭代,正式版DeepSeek-R1模型將完全開源。
阿里、幻方模型嶄露頭角,預示着業內推理AI正在興起,這可能爲小型AI開發商提供趕超機會,打破目前由少數幾家科技巨頭主導的局面。
於今年第二季度開始研究推理模型的初創公司Fireworks,其聯合創始人兼首席執行官Lin Qiao表示:
此外,科技巨頭們也加大了推理模型研發力度,谷歌已將其推理模型團隊規模從 o1-preview 發佈前的幾十人擴大到 200 人左右,谷歌還爲該團隊提供了更多算力資源。
後進者更具成本優勢,思維鏈成大模型關鍵
後進者在構建大模型方面更具成本優勢。
後進者在開發OpenAI替代品時,似乎受益於斯坦福大學、谷歌、Meta Platforms和OpenAI自身研究人員近年來發布的關於推理的論文。推理模型的開發成本低於傳統的LLMs,如GPT-4o,傳統模型需要花費數億美元在計算資源和訓練數據上,並需要合法獲取這些數據。
新模型可以幫助 OpenAI 及其競爭對手開發能夠完成困難項目的編碼助手。例如,微軟和 Salesforce 等企業軟件公司可以利用它們來改進代表客戶採取行動的代理,例如安排預約。
值得一提的是,研究人員可以通過讓其他模型生成解決問題的思維過程,然後將這些過程用於訓練LLM,從而將推理能力融入現有的LLMs中。
一些研究人員還免費向其他開發人員開放了以推理爲重點的數據集。例如,阿里巴巴表示,它使用了Open o1其中一個研究小組的數據來構建推理模型。
人工智能初創公司Anyscale和Databricks的聯合創始人 Ion Stoica 表示: