由世界互聯(lián)網大會和浙江省人民政府主辦的2023年世界互聯(lián)網大會“互聯(lián)網之光”博覽會于11月7日在中國浙江烏鎮(zhèn)開幕。海天瑞聲CTO黃宇凱在“互聯(lián)網之光”博覽會上正式發(fā)布DOTS-LLM大模型服務平臺。該平臺提供大模型開發(fā)全生命周期管理服務，覆蓋從數(shù)據(jù)采標、數(shù)據(jù)管理、模型訓練、模型評測在內的全棧能力。為大模型企業(yè)提供更加高效卓越的數(shù)據(jù)處理服務，助力大模型產業(yè)的快速發(fā)展。

海天瑞聲CTO黃宇凱在“互聯(lián)網之光”博覽會現(xiàn)場 發(fā)布DOTS-LLM大模型數(shù)據(jù)服務平臺

大模型發(fā)展浪潮的背后是數(shù)據(jù)、算法、算力的合力推動。隨著數(shù)據(jù)處理技術的不斷發(fā)展，能夠獲取和處理的數(shù)據(jù)量更大、質量更高、種類更多，數(shù)據(jù)為大模型的訓練提供了豐富的“養(yǎng)分”。同時，大模型的發(fā)展也為數(shù)據(jù)的利用開辟了新的可能，使得我們能夠更有效地挖掘數(shù)據(jù)的價值，進一步推動人工智能領域的發(fā)展。

數(shù)據(jù)賦能大模型性能躍遷

數(shù)據(jù)采集階段

大模型的訓練需要大規(guī)模數(shù)據(jù)集，以確保模型的覆蓋性和準確性。這一階段的數(shù)據(jù)標注數(shù)量和質量都十分重要，需要確保訓練數(shù)據(jù)的準確性和可信度。

數(shù)據(jù)預處理階段

對數(shù)據(jù)進行清洗和去噪，以去除噪音和異常值，確保數(shù)據(jù)的質量。并進行特征提取和轉換，以使數(shù)據(jù)適合模型訓練，提高模型的性能和效率。這些步驟是構建高效、準確大模型的關鍵。

模型訓練階段

為了確保模型的準確性和泛化能力，需要無偏數(shù)據(jù)集，避免數(shù)據(jù)偏見導致模型偏差。此外，超參數(shù)調整也是至關重要的環(huán)節(jié)，通過調整和優(yōu)化模型的超參數(shù)，我們可以獲得更好的訓練效果。同時也需要大規(guī)模的計算資源加速訓練過程。

模型評測階段

使用數(shù)據(jù)集對模型進行評測，以確保模型在未見過的數(shù)據(jù)上具有良好的泛化能力。同時，選擇和應用適當?shù)脑u測指標，如知識性、安全性、邏輯推理能力等，來全面評測模型的性能。為了獲得更準確、可靠的評測結果，需要在大規(guī)模數(shù)據(jù)集進行評測，以確保模型在訓練和測試過程中的覆蓋性和準確性。

目前，大模型領域的數(shù)據(jù)處理仍面臨諸多挑戰(zhàn)。

首先，數(shù)據(jù)獲取和標注過程需要投入大量的人力物力，增加了開發(fā)成本。其次，由于版權數(shù)據(jù)及垂類數(shù)據(jù)收集難度較大，進一步加大了數(shù)據(jù)獲取的難度。此外，數(shù)據(jù)偏見和多樣性覆蓋不足的問題也不容忽視，會在一定程度上影響模型的性能和準確性。最后，如何在利用數(shù)據(jù)的同時保護個人隱私和數(shù)據(jù)安全，是大家重點關注的問題。為了更好的推動大模型數(shù)據(jù)領域的發(fā)展，亟需解決以上痛點問題。

DOTS-LLM 核心功能點

海天瑞聲DOTS-LLM大模型服務平臺匯集了海天瑞聲多年積累的行業(yè)經驗和專業(yè)技能，通過深度優(yōu)化的算法技術，賦能大模型開發(fā)全生命周期管理。

大模型開發(fā)全生命周期管理

數(shù)據(jù)采標

高質量文本數(shù)據(jù)集及專業(yè)數(shù)據(jù)服務

隨著數(shù)據(jù)需求急劇增長，安全合規(guī)的獲取數(shù)據(jù)變得愈發(fā)關鍵，同時也更具挑戰(zhàn)。卓越高效、安全合規(guī)的采標能力是海天瑞聲的核心技術之一。海天瑞聲以多年積累的數(shù)據(jù)采標能力為基礎，并通過標準化平臺進行精準的標記、清洗，支持RLHF、分類、改寫、生成等任務，為大模型的數(shù)據(jù)處理和模型訓練提供可靠的數(shù)據(jù)基礎。

數(shù)據(jù)管理

內置數(shù)據(jù)處理算法，高效精準的數(shù)據(jù)管理體驗

通過內置多種處理算法，顯著提升數(shù)據(jù)處理流程的效率。支持多維度條件檢索，使用戶能夠快速、準確地獲取特定數(shù)據(jù)，減少查找和篩選數(shù)據(jù)的時間。同時，該模塊還提供了豐富的可視化方案，幫助用戶更好地理解數(shù)據(jù)的特征、趨勢和關聯(lián)性。這使得用戶能夠更直觀地了解數(shù)據(jù)分布情況，并根據(jù)這些信息做出優(yōu)化決策。

模型訓練

全面的模型訓練和管理體驗

海天瑞聲DOTS-LLM大模型服務平臺支持20多種第三方大型模型的接入。針對大模型應用場景，以高質量標注數(shù)據(jù)和SFT&RLHF等方法對大模型進行微調。同時，通過多種可視化方案，幫助用戶更好地理解模型訓練過程和決策依據(jù)，從而更好地調整模型參數(shù)和優(yōu)化模型性能。此外該平臺還支持多機多卡并行訓練和增量訓練，以提高訓練效率。

模型評測

模型準確性和穩(wěn)定性多維評測

海天瑞聲的專家團隊提供全面的模型評測服務，通過通用語言能力與安全可靠性兩大維度展開，主要涵蓋閱讀理解、邏輯推理、知識運用、生成創(chuàng)作、安全性、魯棒性六大能力以及19個子能力，以確保模型在不同場景下的穩(wěn)健性和魯棒性。更好的驗證模型的實用性，并使其更加符合客戶的需求和預期。

作為國內領先的人工智能數(shù)據(jù)服務商，海天瑞聲一直致力于為人工智能企業(yè)提供高品質的數(shù)據(jù)。此次推出的DOTS-LLM大模型數(shù)據(jù)服務平臺，以期更好的滿足大模型企業(yè)在數(shù)據(jù)方面的需求。

未來，海天瑞聲將繼續(xù)深耕數(shù)據(jù)領域，不斷完善和拓展我們的服務，以應對快速變化的數(shù)據(jù)環(huán)境，助力客戶在大模型時代取得更大的成功，為人工智能產業(yè)提供更加堅實的數(shù)據(jù)基石，推動人工智能技術的快速發(fā)展。

免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據(jù)。