百度文心大模型升級為文心大模型3.5-全球今熱點

(資料圖)

7月7日消息，2023世界人工智能大會期間，百度首席技術官王海峰發言指出，百度文心大模型現已升級為文心大模型3.5，已實現基礎模型升級、精調技術創新、知識點增強、邏輯推理增強等，模型效果提升50%，訓練速度提升2倍，推理速度提升30倍。

據王海峰介紹，在基礎模型訓練上，文心大模型3.5采用了飛槳自適應混合并行訓練技術及混合精度計算策略，并采用多種策略優化數據源及數據分布，加快了模型迭代速度，顯著提升了模型效果和安全性，同時還創新了多類型多階段有監督精調、多層次多粒度獎勵模型、多損失函數混合優化策略、雙飛輪結合的模型優化等技術，進一步提升模型效果及場景適配能力。

在知識增強和檢索增強基礎上，文心大模型3.5提出了“知識點增強技術”，對用戶輸入的查詢、問題等進行分析理解，為大模型注入更具體、詳細、專業的知識點，顯著提升大模型對世界知識的掌握和運用。此外，文心大模型3.5還新增了插件機制，目前文心一言已對外發布官方插件百度搜索和ChatFile。

標簽：