上市公司專訪
節目簡介:
全面分析上巿公司業績,與負責人透徹對話。
主持人:
勞家樂2024-07-25
商湯科技(20)香港業務總經理馮愈
現正播放: 足本播放 Play full episode
分段播放:
商湯科技(20)香港業務總經理馮愈 收聽
商湯科技主要在港從事人工智能軟件開發及銷售。各業務板塊分別為:生成式AI、傳統AI及智能汽車:包括駕駛員監測系統(DMS)、運營管理系統(OMS)等開發。早前公布去年業績,營業額下降10.6%至34.06億人民幣;股東應佔虧損擴大6.5%至64.4億。毛利率下降22.7個百分點至44.1%。公司2021年底在港主板上市。
商湯早前於上海的世界人工智能大會(WAIC)期間發布全面升級的「日日新SenseNova 5.5」大模型體系,其綜合性能較兩個多月前發布的「日日新5.0」平均提升30%,數學推理、英文能力和指令跟隨能力等明顯增強。香港業務總經理馮愈接受本台專訪時提到,新近的5.5版本,多了很多多模態功效,意思是將影片、文字、照片等可一併詢問及一同生成答案,當中亦可以包括圖像、影片等多模態生成作品,這種多模態生成作品,目前市場上有但不多。
他指,日日新開發循多元化方向發展,除了追趕市場對手趨勢與需求,同時間商湯亦要引入自己創新部分。正如Open AI為市場帶出新的需求,商湯旗下日日新亦會在功效上放入自己創新部分,如加入視頻詢問等,在追趕市場發展同期亦要創新,商湯參考對手模式不單是外國的Open AI,亦會參考內地對手。
馮愈指,儘管市場競爭激烈,可是商湯仍有力追貼對手,因公司於內地有多個超算中心(Super computing data center),算力目前已達逾萬P(P是人工智能的一個數量級別單位,1P代表1秒鐘可以執行1000萬億次的浮點運算),連同前海稍後會有一個數千P算力中心在內。若沒有這麼大算力,日日新的升級難以這麼快完成。
他指,香港算力暫時未有,目前只是興建AI數據中心階段,特區政府正努力追上這潮流,亦見到中、港有很多合作途徑,如兩地電力供應,香港跟內地算力協調,如不同用途、成本考量等,希望在追上過程中成本不用太高,可以參考不同個案而合作發展。
馮愈留意到中港融合,正是要兩邊互補不足。人才方面兩邊均在搶,因人才非常渴求,其實全球均有強大需求;電力方面內地一定有價格優勢,估計平香港1/3或一半,視乎電力來自內地甚麼地區。故此相互可分工發展,如數據訓練於內地進行,香港做推理部分(Inferencing),整體成本就可以更具優勢,這亦是中港之間可以合作之處,即擅用數據交換、電力價格平衡、人才交流等,加快兩邊互動發展。
針對商用的商量粵語API(應用程式介面),商湯前後花了約6至8個月開發,以內地電力訓練粵語模型。他指,開發廣東話模式有其獨到考慮,其實整個粵語市場,以人口計,除大灣區外,全球約有近1億人口,屬龐大市場。商湯開發港人適用的廣東話AI,是因應今年商湯在港成立十週年,開發這模式除了商業考慮外,亦希望回饋香港市民作誌慶,雖然只有七百多萬人口,但要投入資源開發、訓練算力,公司認為值得,亦希望為港人使用,因為廣東話模式是中、英語混雜、又有俗語等,希望配合到香港市民每日使用。
馮愈分析,廣東話是小語種發展模式,早前商湯公布跟泰國商業機構合作,開發一種泰語AI模式。這個小語種市場潛力很大,可讓不同地區市民用上當地方言,這是業界開發LLM(Large language model)中較少用到,商湯走這方向,認為當中有可為。
他指,小語種模式難度是要收集大量公眾數據(public data)如俗語等,再用人工智能訓練,每次訓練用上很大電力成本,首要做數據隊列(Queuing),隊列至一個成熟程度才放入超算中心訓練,單次花費數百萬元,故每次要隊列大量數據才可訓練出一個可用的廣東話模式,再需要在這底層模式上,持續修訂至最好為止。
馮愈指,開發過程中,商湯內部亦有自己評分制度,會用上同一款模態監修,即以AI跟AI測試,驗測能否達到一定水平,形式上要求「舉一反三」學習,如中英語混雜、快語速等,再測試其準確度。透過不斷測試改善,希望開發出的AI產品達致國際化。今天AI生出的語音產品,已可做到英語、普通話、粵語及廣東話四款,這方面亦有利將來開發其他語種產品。
他透露,日日新正研發第6代產品,同期關注Open AI Chat5發展。至於另一戰線是將AI放入邊緣裝置(edge device)等,例子如眼鏡,可收音、智能化、可以導航等,這類產品亦包括家居智能等項目。早前商湯日日新5.5發布會,推出一款9元人民幣售價裝置,可放入這類邊緣裝置使用,顯示垂直產品線需求大。因這些裝置經藍牙連接手機,小算力放入裝置內,已足以應付日常需要,不用每次上雲,這場景亦是未來業界開發的重點,是下一代競爭所在,即除了競爭雲上AI功能外,邊緣裝置市場亦是一個新競爭場景,如能成功爭取,可以帶來龐大收益。
馮愈指,車亦是一個龐大使用場景,商湯早前投入不少,目前在內地有三、四十間車廠正使用商湯軟件,當中有一定AI功效,亦有不少合作機會,未來甚至亦可跟全球不同車廠合作。因車內場景如安全、車內物聯等亦可用AI。
被問到海外對手Open AI若停止服務香港市場,會否對商湯是機遇?他指,公司沒有這方面考量,儘管中美角力可能成為長期趨勢,公司唯一考量是產品要追上潮流,成功供香港用戶使用。至於目前以免費供用戶使用,商湯考慮的盈利模式是讓需求發展,相信需求不是單一,而是會慢慢增長,甚至發展成多元代,正如邊緣裝置市場可以是很大的收入來源,今天2C(零售)客戶可能要免費,2B(企業)則是另一個很大需求,只要商湯產品多用2C客戶使用,未來2B盈利潛力就會很高。
至於商湯算力用的晶片,他指屬混合模式,當中有NVIDIA、亦有其他廠商出品。儘管NVIDIA晶片屬龍頭,亦見AMD、英特爾等搶佔其市場,同期內地很多間廠商產品研發亦在追趕中,其效率亦達八、九成。商湯不擔心買不到晶片,因上游各方追趕高算力硬件同時,不少內地廠商已做出成績。
商湯科技2021年底在港上市,當日招股價3.85港元,首周上市即沖高至近10元水平,其後反覆回落至今年初0.6元以上,近月隨著日日新產品推出,一度重上1.67元,近日報1.16元,現價市值407億。
分析指,Chat GPT4掀起AI變革巨浪,生成式AI發展成大趨勢,各行各業大模型推理算力需求急升,商湯科技作為AI行業領頭羊,料能受惠。去年業績顯示,生成式AI業務收入按年暴增近兩倍,收入佔比增至三分一,預期今年可進一步增至一半。隨著生成式AI逐步由技術走向應用落地,推動商業化(2B)需求增長;而依托大模型的基礎設施及研發能力發展汽車業務亦受關注,商湯有技術優勢,料能受惠及早日轉虧為盈。
訪問、整理:勞家樂
報道:方嘉莉
商湯早前於上海的世界人工智能大會(WAIC)期間發布全面升級的「日日新SenseNova 5.5」大模型體系,其綜合性能較兩個多月前發布的「日日新5.0」平均提升30%,數學推理、英文能力和指令跟隨能力等明顯增強。香港業務總經理馮愈接受本台專訪時提到,新近的5.5版本,多了很多多模態功效,意思是將影片、文字、照片等可一併詢問及一同生成答案,當中亦可以包括圖像、影片等多模態生成作品,這種多模態生成作品,目前市場上有但不多。
他指,日日新開發循多元化方向發展,除了追趕市場對手趨勢與需求,同時間商湯亦要引入自己創新部分。正如Open AI為市場帶出新的需求,商湯旗下日日新亦會在功效上放入自己創新部分,如加入視頻詢問等,在追趕市場發展同期亦要創新,商湯參考對手模式不單是外國的Open AI,亦會參考內地對手。
馮愈指,儘管市場競爭激烈,可是商湯仍有力追貼對手,因公司於內地有多個超算中心(Super computing data center),算力目前已達逾萬P(P是人工智能的一個數量級別單位,1P代表1秒鐘可以執行1000萬億次的浮點運算),連同前海稍後會有一個數千P算力中心在內。若沒有這麼大算力,日日新的升級難以這麼快完成。
他指,香港算力暫時未有,目前只是興建AI數據中心階段,特區政府正努力追上這潮流,亦見到中、港有很多合作途徑,如兩地電力供應,香港跟內地算力協調,如不同用途、成本考量等,希望在追上過程中成本不用太高,可以參考不同個案而合作發展。
馮愈留意到中港融合,正是要兩邊互補不足。人才方面兩邊均在搶,因人才非常渴求,其實全球均有強大需求;電力方面內地一定有價格優勢,估計平香港1/3或一半,視乎電力來自內地甚麼地區。故此相互可分工發展,如數據訓練於內地進行,香港做推理部分(Inferencing),整體成本就可以更具優勢,這亦是中港之間可以合作之處,即擅用數據交換、電力價格平衡、人才交流等,加快兩邊互動發展。
針對商用的商量粵語API(應用程式介面),商湯前後花了約6至8個月開發,以內地電力訓練粵語模型。他指,開發廣東話模式有其獨到考慮,其實整個粵語市場,以人口計,除大灣區外,全球約有近1億人口,屬龐大市場。商湯開發港人適用的廣東話AI,是因應今年商湯在港成立十週年,開發這模式除了商業考慮外,亦希望回饋香港市民作誌慶,雖然只有七百多萬人口,但要投入資源開發、訓練算力,公司認為值得,亦希望為港人使用,因為廣東話模式是中、英語混雜、又有俗語等,希望配合到香港市民每日使用。
馮愈分析,廣東話是小語種發展模式,早前商湯公布跟泰國商業機構合作,開發一種泰語AI模式。這個小語種市場潛力很大,可讓不同地區市民用上當地方言,這是業界開發LLM(Large language model)中較少用到,商湯走這方向,認為當中有可為。
他指,小語種模式難度是要收集大量公眾數據(public data)如俗語等,再用人工智能訓練,每次訓練用上很大電力成本,首要做數據隊列(Queuing),隊列至一個成熟程度才放入超算中心訓練,單次花費數百萬元,故每次要隊列大量數據才可訓練出一個可用的廣東話模式,再需要在這底層模式上,持續修訂至最好為止。
馮愈指,開發過程中,商湯內部亦有自己評分制度,會用上同一款模態監修,即以AI跟AI測試,驗測能否達到一定水平,形式上要求「舉一反三」學習,如中英語混雜、快語速等,再測試其準確度。透過不斷測試改善,希望開發出的AI產品達致國際化。今天AI生出的語音產品,已可做到英語、普通話、粵語及廣東話四款,這方面亦有利將來開發其他語種產品。
他透露,日日新正研發第6代產品,同期關注Open AI Chat5發展。至於另一戰線是將AI放入邊緣裝置(edge device)等,例子如眼鏡,可收音、智能化、可以導航等,這類產品亦包括家居智能等項目。早前商湯日日新5.5發布會,推出一款9元人民幣售價裝置,可放入這類邊緣裝置使用,顯示垂直產品線需求大。因這些裝置經藍牙連接手機,小算力放入裝置內,已足以應付日常需要,不用每次上雲,這場景亦是未來業界開發的重點,是下一代競爭所在,即除了競爭雲上AI功能外,邊緣裝置市場亦是一個新競爭場景,如能成功爭取,可以帶來龐大收益。
馮愈指,車亦是一個龐大使用場景,商湯早前投入不少,目前在內地有三、四十間車廠正使用商湯軟件,當中有一定AI功效,亦有不少合作機會,未來甚至亦可跟全球不同車廠合作。因車內場景如安全、車內物聯等亦可用AI。
被問到海外對手Open AI若停止服務香港市場,會否對商湯是機遇?他指,公司沒有這方面考量,儘管中美角力可能成為長期趨勢,公司唯一考量是產品要追上潮流,成功供香港用戶使用。至於目前以免費供用戶使用,商湯考慮的盈利模式是讓需求發展,相信需求不是單一,而是會慢慢增長,甚至發展成多元代,正如邊緣裝置市場可以是很大的收入來源,今天2C(零售)客戶可能要免費,2B(企業)則是另一個很大需求,只要商湯產品多用2C客戶使用,未來2B盈利潛力就會很高。
至於商湯算力用的晶片,他指屬混合模式,當中有NVIDIA、亦有其他廠商出品。儘管NVIDIA晶片屬龍頭,亦見AMD、英特爾等搶佔其市場,同期內地很多間廠商產品研發亦在追趕中,其效率亦達八、九成。商湯不擔心買不到晶片,因上游各方追趕高算力硬件同時,不少內地廠商已做出成績。
商湯科技2021年底在港上市,當日招股價3.85港元,首周上市即沖高至近10元水平,其後反覆回落至今年初0.6元以上,近月隨著日日新產品推出,一度重上1.67元,近日報1.16元,現價市值407億。
分析指,Chat GPT4掀起AI變革巨浪,生成式AI發展成大趨勢,各行各業大模型推理算力需求急升,商湯科技作為AI行業領頭羊,料能受惠。去年業績顯示,生成式AI業務收入按年暴增近兩倍,收入佔比增至三分一,預期今年可進一步增至一半。隨著生成式AI逐步由技術走向應用落地,推動商業化(2B)需求增長;而依托大模型的基礎設施及研發能力發展汽車業務亦受關注,商湯有技術優勢,料能受惠及早日轉虧為盈。
訪問、整理:勞家樂
報道:方嘉莉