商湯發佈業內首個「雲端邊」全棧大模型產品矩陣

4月23日，商湯科技舉辦「商湯技術交流日」，發佈行業首個「雲、端、邊」全棧大模型產品矩陣，以滿足不同規模場景的應用需求。活動上，商湯同時發佈升級的「日日新SenseNova 5.0」大模型體系，其綜合能力全面對標GPT-4，加速生成式AI向產業落地的全面躍遷，實現大模型按需所取。 商湯科技推出業內首個「雲、端、邊」全棧大模型產品矩陣，其中包括應用於終端設備的「商湯端側大模型」，以及面向金融、代碼、醫療、政務等多個領域的邊緣產品「商湯企業級大模型一體機」。 商湯還推出端雲協同解決方案，可以通過智能化判斷協同發揮端雲各自優勢，需要聯網搜索或處理複雜場景時分流至雲端處理，部分場景端側處理佔比超過80%，從而顯著降低推理成本。 商湯日日新·端側大語言模型的推理速度達到了業內最快，可在中端平台實現每秒18.3字的平均生成速度，旗艦平台更是達到了每秒78.3字。擴散模型同樣可在端側實現業內最快的推理速度，端側LDM-AI擴圖技術在某主流平台上，推理速度快於1.5秒，比友商雲端app快10倍，支持輸出1200萬像素及以上的高清圖片，支持在端上快速進行等比擴圖、自由擴圖、旋轉擴圖等圖像編輯功能。商湯亦於今日正式發佈端側業務SDK。