小型AI模型全球迎來發展機遇：網絡與算力匱乏地區更適配輕量化模型

2019年的一個清晨，Adebayo Alonge身處開普敦一間酒店客房，準備演示自家初創公司推出的人工智能解決方案，用以解決非洲醫療領域一大嚴峻難題：假藥問題。這類假藥每年在非洲大陸造成數千人喪生。

這款名為RxScanner的手持光譜儀會通過紅外光線掃描藥片，再將藥品的分子圖譜上傳至搭載藥物數據庫的人工智能模型。短短數秒內，AI就能依據分子特征識別藥品真偽，若是假藥則會直接發出提示。

當時已有十多個國家的藥房投入使用該設備，涵蓋加納、肯尼亞、緬甸以及Alonge的祖國尼日利亞。但在南非的那天早上，這套設備徹底失靈了。“我當時十分震驚。” Alonge回憶道。

光譜儀雖然能連通AI模型，但承載模型的數據中心遠在1.4萬公里之外，當地網絡帶寬十分有限。“我們的服務器設在美國，僅僅完成一次掃描檢測，就要耗費五分鐘以上。”

于是Alonge立刻要求工程師壓縮AI模型，開發出輕量化、低功耗、可離線運行的版本，能夠直接在安卓手機本地完成運算。團隊兩小時內就完成開發，總算順利完成了演示。

更關鍵的是，這次應急研發催生了設備全新迭代款。即便身處沒有寬帶、電腦，甚至供電不穩的地區，該設備也能完成藥片真偽核驗。這件事也讓Alonge成為輕量化小模型AI的堅定推廣者。

面向全球普惠醫療的輕量化AI

輕量化小型AI，與發達國家重金打造的巨型大語言模型、超大規模數據中心、動輒數十億美元的投入，以及關于人工智能意識的各類討論截然不同。但對全球數十億民眾而言，實用且唯一能夠落地使用的AI，恰恰是這類小型模型。（世界銀行11月發布的報告顯示，全球最貧困國家中僅0.7%的網民使用過ChatGPT，而發達國家該比例達到四分之一https://www.worldbank.org/en/publication/dptr2025-ai-foundations：。）

世界銀行行長Ajay Banga于今年1月在達沃斯世界經濟論壇上表示：“當下絕大多數討論都聚焦大語言模型與生成式AI，但這類技術需要龐大算力、充足電力、海量數據，以及專業技術人員運維。除中印兩國之外，發展中國家幾乎無法同時集齊這些條件。”

Banga指出，小型AI卻能在不具備上述資源的地區提供實用、甚至能挽救生命的服務。印度政府的人工智能發展規劃便大力扶持小型AI，國內已有多款輕量化系統落地服務農戶。

例如，印度韋洛爾理工學院的Bala Murugan團隊研發了一套無人機智能監測系統：無人機拍攝腰果植株影像，可快速識別葉片出現病斑的患病植株。整套圖像分析運算全部在無人機本地完成，無需現場配備電腦，也不用連接遠端中心服務器：https://www.science.org/doi/epdf/10.1126/science.adw7713。

不少輕量化AI應用采用針對特定場景訓練的小型語言模型，可部署在廉價低功耗設備上：烏拉圭葡萄園利用該技術識別螞蟻蟲害；多國借助它檢測攜帶瘧原蟲的蚊子；巴西部分缺少高端醫療設備的地區，還能依靠Arduino設備搭配小型AI完成心電圖檢測。

參與以上三項研究的巴西伊塔茹巴聯邦大學工程與信息系統學院教授Marcelo José Rovai表示：“小型AI是當下人工智能領域最重要的發展方向，相關技術正飛速發展。”

終端低功耗小型人工智能模型

Moez Altayeb

世界銀行11月的報告將小型AI稱作“極具發展潛力的趨勢”，但在Alonge、Rovai以及一眾從業者看來，它的意義遠不止于此。從長遠來看，巨型大模型的使用成本終將讓大多數使用者難以承擔，而小型AI才是能夠惠及最多人群、具備可持續發展能力的人工智能形態。

Alonge表示：“我認為人工智能的未來并非集中在單一中心的巨型大模型，而是數百萬個輕量化、精準化的邊緣小模型，每個模型只針對特定場景、特定問題完成專項任務。”一方面，全球絕大多數人口（既包含發展中國家民眾，也涵蓋發達國家部分地區人群）都無法使用頂尖前沿大模型；另一方面，巨型模型本身不具備可持續性。

Alonge表示：“倘若沒有資金補貼，絕大多數人根本負擔不起巨型大模型。因此，我們這些小型AI研發從業者，必須為全球絕大多數普通人打造適配的人工智能方案。”

業內目前尚未對“小型AI”作出嚴格定義，但該概念一般指參數量最高僅數十億的語言模型。與之形成對比的是，前沿頂尖大模型參數量可達萬億級別。這類小模型體積輕巧，能夠直接在手機或樹莓派單板機上本地運行。正因如此，搭載小模型的應用無需接入數據中心，運行功耗僅幾瓦，通常依靠電池或太陽能板供電即可。

Rovai稱，盡管這類模型資源占用極低，但其底層技術邏輯和巨型AI模型并無本質區別。很多小型語言模型的制作思路，和Alonge那款手機端藥品檢測儀內置模型完全一致：對大模型進行剪枝處理，剔除和當前業務無關的參數。Rovai解釋，經過剪枝后的模型通用綜合性能會有所削弱，但在它被優化的專項任務上，依舊能保持極佳的效果。

RxAll

Rovai介紹，還有另一類小型模型采用模型蒸餾技術開發。這類模型通過訓練模仿大模型的輸出邏輯，最終性能能夠逼近作為“教師”的大模型。還有一種輕量化手段是降低大模型運算精度，例如將原本基于32位架構運行的模型適配為8位架構。如果機器學習應用僅用于數據分類、趨勢預測（例如識別螞蟻蟲害），還可以直接在小型設備上從零訓練模型，完全不需要依托大模型改造。

Rovai表示，如今部署這類專用小型AI系統的門檻正在不斷降低，主要有兩大原因。

第一，硬件性能持續提升，同時功耗不斷降低。現在越來越多手機能夠本地運行小型AI，尤其是搭載神經網絡處理單元的機型。NPU是專門處理AI任務的芯片，可執行人臉識別、調整照片亮度、陰影與對比度等功能。

科技研究機構Counterpoint的數據顯示，2025年全球出貨的智能手機中，僅有略超三分之一可本地運行生成式AI；到今年年底，這一比例將升至45%。明年年末，過半智能手機將具備本地運行小型AI模型的能力（https://counterpointresearch.com/en/insights/genai-smartphone-share-to-rise-to-45-percent-of-global-shipments-in-2026）。

Rovai提出的第二個利好因素，是語言模型的資源占用門檻持續降低。他表示，谷歌DeepMind今年4月發布的Gemma 4、Alibaba的Qwen 3.5兩款模型都非常適合小型AI場景。二者均為開源權重模型，使用者可按需調整模型參數間的連接關系。舉個例子，“我們可以導入大量乳業相關數據，基于該模型完成專項微調訓練，操作十分簡便。”Rovai說道。

Rovai在一場Zoom線上會議中，結合自己最新的一項實驗佐證了以上兩點優勢。他舉起一臺設備介紹：“這是新款Arduino UNO Q，售價50美元，搭載高通芯片組。我在上面部署了小型語言模型，它能夠采集傳感器數據并加以分析，以此識別容易滋生蚊蟲的小型積水洼，整機運行功耗僅3瓦。”

扶持小型AI研發落地

世界銀行認為，已有數百萬民眾從這類輕量化AI應用中獲益，因此如今正大力推廣小型AI，配套舉措包括專項資助、專家指導項目、資金支持、技術咨詢，以及適配小型AI發展的政府政策參考方案。例如在盧旺達，世界銀行正在扶持當地政府項目，為低收入家庭配備可本地運行AI的終端設備。

盡管如此，沒有人認為大語言模型會徹底退出舞臺。Rovai表示，想要開發出能夠在手機或小型終端上運行的生成式AI，離不開大模型積累的架構思路、數據處理技術與實驗成果。“輕量化小模型，本身就是依托大模型才得以誕生。”

Alonge提到，雖然小型AI能惠及無法使用大型AI的人群，但這項技術無法從根源上解決發展失衡與數字鴻溝這類宏觀問題。僅僅落地小型AI，并不能幫助各國繞開搭建人工智能配套生態的難題：穩定供電、完善的供應鏈、能夠培育AI工具研發人才的教育體系，這些缺一不可。

他的藥品檢測儀即便脫離網絡，依靠手機也能連續工作數日，但他坦言：“設備仍需要定期同步更新，錄入新的藥品特征數據庫與分析模型。即便依靠電池供電，穩定的電力供給依舊至關重要，手機電池終究無法永久續航。”

Alonge稱，全球很多地區的小型AI發展前景仍充滿不確定性。“小型AI技術切實可用，各地早晚都會產生使用需求。關鍵在于各國決策者是否具備長遠眼光，愿意投入資金建設配套基礎設施，保障其長期落地運行。”