大家好，我是賀老師，嵌入式 AI工程師，《嵌入式AI：讓單片機(jī)學(xué)會(huì)思考》主理人，專注AI在MCU上的落地實(shí)踐。
其實(shí)Google很早之前就已經(jīng)宣布 TensorFlow Lite 改名為 LiteRT了。由于對(duì)已經(jīng)完成的項(xiàng)目影響不大，所以我一直沒有太關(guān)注這部分的內(nèi)容。近期有同學(xué)詢問關(guān)于這方面的內(nèi)容，所以，發(fā)布一篇文章來進(jìn)行深入的講解一下。
LiteRT 可以理解為 Lite Runtime，字面意思變了，不再是“TensorFlow 的輕量版本”，而是一個(gè)面向設(shè)備端 AI 的輕量運(yùn)行時(shí)。
這次變化是Google對(duì)端側(cè)AI的一次定位調(diào)整：從“TensorFlow 模型部署工具”，變成“多框架模型的設(shè)備端運(yùn)行時(shí)”。
TensorFlow Lite 這個(gè)名字，過去很容易讓人形成一個(gè)固定印象：先用 TensorFlow 訓(xùn)練模型，再轉(zhuǎn)換成 .tflite，最后部署到移動(dòng)端或嵌入式設(shè)備上。
這個(gè)流程到現(xiàn)在仍然成立，但端側(cè) AI 的模型來源已經(jīng)比過去復(fù)雜得多。模型不一定來自 TensorFlow，也可能來自 PyTorch、JAX、Keras，或者來自其他模型訓(xùn)練和導(dǎo)出工具。設(shè)備端部署真正關(guān)心的，也不再只是“是不是 TensorFlow 訓(xùn)練出來的”，而是模型能不能被轉(zhuǎn)換、優(yōu)化、量化，并在目標(biāo)硬件上穩(wěn)定運(yùn)行。
所以 LiteRT 這個(gè)名字的重點(diǎn)，是把運(yùn)行時(shí)從 TensorFlow 這個(gè)單一品牌中抽出來，強(qiáng)調(diào)它本身是面向設(shè)備端的輕量 AI runtime。
一句話理解：LiteRT 不是 TensorFlow Lite 消失了，而是 TensorFlow Lite 的設(shè)備端運(yùn)行時(shí)定位變得更清晰、更通用。
以前的理解：
TensorFlow 訓(xùn)練模型↓轉(zhuǎn)換成 TensorFlow Lite↓部署到手機(jī)或嵌入式設(shè)備
現(xiàn)在更準(zhǔn)確的理解：
TensorFlow / PyTorch / JAX / Keras 等框架訓(xùn)練模型↓轉(zhuǎn)換、優(yōu)化、量化↓通過 LiteRT 部署到 Android / iOS / 嵌入式設(shè)備
已經(jīng)在用 TensorFlow Lite 的項(xiàng)目，最關(guān)心的不是名字，而是工程會(huì)不會(huì)被影響。按照 Google 官方說明，主 TensorFlow 品牌不會(huì)受影響，已經(jīng)部署的 TensorFlow Lite 應(yīng)用不會(huì)因?yàn)檫@次改名而失效。
更關(guān)鍵的一點(diǎn)是：.tflite 文件格式?jīng)]有變化。轉(zhuǎn)換工具仍然會(huì)輸出 .tflite flatbuffer 文件，LiteRT 也仍然讀取 .tflite 文件。
這對(duì)我們做端側(cè)AI的嵌入式工程來說是很友善的。因?yàn)楹芏?MCU 或端側(cè)部署鏈路，最終交付物就是 .tflite 模型，或者把它進(jìn)一步轉(zhuǎn)換成 C 數(shù)組、固件資源、模型 blob。如果文件格式變了，工具鏈會(huì)受到很大影響。但這次不是這種情況。
工程判斷：如果當(dāng)前項(xiàng)目已經(jīng)用 TensorFlow Lite、TFLite Micro、STM32Cube.AI 或其他工具鏈穩(wěn)定部署，不需要因?yàn)?LiteRT 這個(gè)名字立刻修改工程。真正需要關(guān)注的是后續(xù)文檔、包名、依賴和工具鏈更新。
LiteRT 釋放的信號(hào)很明確：端側(cè) AI 的重點(diǎn)正在從“某個(gè)框架訓(xùn)練出來的模型怎么跑”，轉(zhuǎn)向“不同來源的模型怎么統(tǒng)一部署到設(shè)備端”。
對(duì)嵌入式工程師來說，最值得關(guān)注的不是名字，而是這條部署鏈路是否更完整：
這些才是 LiteRT 這類運(yùn)行時(shí)真正落地時(shí)的關(guān)鍵。工具名字可以變化，但模型部署到設(shè)備端時(shí)遇到的資源、性能、算子、量化、輸入一致性問題不會(huì)消失。
對(duì) MCU 級(jí) TinyML 來說，要保持清醒：
LiteRT 會(huì)覆蓋更廣的端側(cè) AI 場(chǎng)景，包括移動(dòng)端、嵌入式設(shè)備、GPU/NPU 加速、甚至更復(fù)雜的模型。但 MCU 上最現(xiàn)實(shí)的方向，仍然是關(guān)鍵詞識(shí)別、動(dòng)作識(shí)別、異常檢測(cè)、簡(jiǎn)單視覺判斷、狀態(tài)分類這類輕量推理任務(wù)。
如果你的項(xiàng)目已經(jīng)基于 .tflite 模型完成部署，并且在真實(shí)硬件上運(yùn)行穩(wěn)定，短期內(nèi)不需要因?yàn)楦拿龃蟾摹ＴO(shè)備可以繼續(xù)運(yùn)行，已經(jīng)部署好的模型可以穩(wěn)定運(yùn)行；模型進(jìn)行更新或者調(diào)優(yōu)后，也不需要有太大的改動(dòng)。總之：對(duì)原有項(xiàng)目的影響不大。
后續(xù)做端側(cè)AI的新項(xiàng)目時(shí)，需要逐步關(guān)注 LiteRT方面的新文檔、新包名、新依賴和新的AI工具鏈。
對(duì)TInyML的整個(gè)開發(fā)流程來說，工具變化只是變層，完整的工作流程不變。
整體工作流程仍然是：模型在 PC 上訓(xùn)練成功，然后再講模型轉(zhuǎn)換為
.tflite 模型后部署到MCU端
最后總結(jié)：
對(duì)做嵌入式 AI 的工程師來說，最重要的結(jié)論有三個(gè)：TensorFlow Lite 沒有消失，.tflite 格式?jīng)]有變化，未來端側(cè) AI 的重點(diǎn)會(huì)更偏向多框架模型部署、模型優(yōu)化、GPU/NPU 加速和真實(shí)設(shè)備上的性能驗(yàn)證。
如果做的是 TinyML 或 MCU 級(jí) AI 部署，仍然要把重點(diǎn)放在模型大小、量化精度、算子支持、RAM 占用、推理耗時(shí)和輸入一致性上。
引用說明：
文中的相關(guān)內(nèi)容引用自下面google開發(fā)者論壇：（最后更新時(shí)間 (UTC)：2026-04-21。）
https://ai.google.dev/edge/litert/migration
