編輯點(diǎn)評(píng)：導(dǎo)讀：如果你還在找一款真正能本地運(yùn)行、小萬(wàn)不用聯(lián)網(wǎng)就能用的版下AI助手，那這款“小萬(wàn)mniinfer版”值得試試。小萬(wàn)它基於原生安卓和Flutter打造，版下核心是小萬(wàn)讓你自由配置模型，不像應(yīng)用市場(chǎng)那些固定版本的版下AI工具。裝上之後，小萬(wàn)它能理解你的版下指令，自主做決策、小萬(wàn)執(zhí)行任務(wù)，版下還會(huì)複盤反思

依托原生Android Kotlin與Flutter技術(shù)搭建，小萬(wàn)打造專業(yè)設(shè)備端AI代理服務(wù)的版下ai助手開源工具，小萬(wàn)ai開源版不同於應(yīng)用市場(chǎng)的小萬(wàn)版本，可以自由配置模型，版下?lián)碛懈又悄芗白杂傻男∪f(wàn)使用習(xí)慣，構(gòu)建完整智能運(yùn)行閉環(huán)，實(shí)現(xiàn)理解指令自主決策執(zhí)行操作複盤反思全流程能力，軟件支持本地設(shè)備獨(dú)立運(yùn)行，無(wú)需依托雲(yún)端即可啟用AI智能服務(wù)。

小萬(wàn)mniinfer版最新動(dòng)態(tài)

本次更新聚焦核心功能優(yōu)化與用戶體驗(yàn)提升。推理引擎得到全麵重構(gòu)，大幅降低顯存占用，在高並發(fā)場(chǎng)景下生成速度提升約40%。新增動(dòng)態(tài)批處理功能，可根據(jù)任務(wù)負(fù)載自動(dòng)調(diào)整資源分配，有效緩解長(zhǎng)序列請(qǐng)求的等待延遲。同時(shí)修複了多個(gè)社區(qū)反饋的內(nèi)存泄漏與模型加載異常問(wèn)題，係統(tǒng)穩(wěn)定性顯著增強(qiáng)。用戶反饋稱“界麵響應(yīng)更流暢，複雜任務(wù)處理效率超出預(yù)期”，社區(qū)活躍度再創(chuàng)新高。下一步將重點(diǎn)完善分布式推理支持與插件生態(tài)建設(shè)。

小萬(wàn)ai開源版怎麼配置模型

1、下載安裝好軟件，打開設(shè)置界麵，選擇模型提供商。

2、打開配置界麵後，點(diǎn)擊切換提供商，支持自動(dòng)獲取模型列表。

3、模型配置場(chǎng)景如圖所示，建議配置為視覺模型。

小萬(wàn)ai怎麼使用

1、配置好進(jìn)入軟件需要先獲取相應(yīng)的權(quán)限。

2、進(jìn)入頁(yè)麵，可以直接輸入聊天或者輸入指令。

3、點(diǎn)擊上方擁有多種模型可以選擇。

4、點(diǎn)左上角的按鈕，支持選擇不同的功能。

5、在技能倉(cāng)庫(kù)可以管理自己的技能。

主要功能

可擴(kuò)展工具生態(tài)係統(tǒng)：技能、Alpine環(huán)境、瀏覽器訪問(wèn)、MCP和Android係統(tǒng)級(jí)工具。

電話任務(wù)自動(dòng)化：利用視覺模型理解和操作移動(dòng)界麵。

係統(tǒng)級(jí)操作：支持定時(shí)任務(wù)、鬧鍾、日曆創(chuàng)建/查詢/更新及音頻播放控製。

記憶係統(tǒng)：支持嵌入的短期和長(zhǎng)期記憶。

生產(chǎn)力工具：閱讀和寫入文件、瀏覽工作區(qū)、使用瀏覽器以及訪問(wèn)終端。

軟件優(yōu)勢(shì)

1、首創(chuàng)全流程智能閉環(huán)，集理解決策執(zhí)行反思於一體，具備真正自主思考能力。

2、純?cè)O(shè)備端離線運(yùn)行，擺脫網(wǎng)絡(luò)與雲(yún)端依賴，安全性和穩(wěn)定性大幅提升。

3、真人級(jí)全機(jī)操控能力，替代人工完成各類手機(jī)操作，解放雙手。

4、區(qū)別於同質(zhì)化聊天AI，以實(shí)操能力為核心，實(shí)用性遠(yuǎn)超傳統(tǒng)智能工具。

常見問(wèn)題

1、是否需要聯(lián)網(wǎng)使用？

支持純本地設(shè)備端運(yùn)行，無(wú)需聯(lián)網(wǎng)即可正常工作。

2、和普通AI聊天工具有什麼區(qū)別？

不局限對(duì)話交互，核心為自主設(shè)備實(shí)操與智能迭代。

3、可以自主修改手機(jī)係統(tǒng)設(shè)置嗎？

支持合規(guī)範(fàn)圍內(nèi)的係統(tǒng)設(shè)置調(diào)整與應(yīng)用操作。

4、反思優(yōu)化機(jī)製是否需要手動(dòng)開啟？

係統(tǒng)默認(rèn)自動(dòng)執(zhí)行，無(wú)需人工幹預(yù)。

5、適配所有安卓機(jī)型嗎？

基於原生安卓框架開發(fā)，兼容主流安卓設(shè)備版本。

小萬(wàn)mniinfer版特別說(shuō)明

本版本基於v0.5.5.1開源最新版，適配mniinfer高性能推理引擎。安裝前請(qǐng)確保係統(tǒng)已安裝Python 3.8+及CUDA 11.7以上環(huán)境；建議使用虛擬環(huán)境運(yùn)行，避免依賴衝突。常見問(wèn)題：?jiǎn)?dòng)報(bào)“ModuleNotFoundError”時(shí)，請(qǐng)先執(zhí)行pip install -r requirements.txt；若顯存不足，可修改config.yaml中的batch_size為1或啟用動(dòng)態(tài)顯存優(yōu)化。安裝技巧：推薦使用conda創(chuàng)建隔離環(huán)境，並安裝PyTorch官方預(yù)編譯包以加速推理。注意：首次運(yùn)行需聯(lián)網(wǎng)下載模型權(quán)重（約2GB），請(qǐng)確保網(wǎng)絡(luò)穩(wěn)定；若遇模型下載失敗，可手動(dòng)將權(quán)重文件放入./models目錄。使用中如遇推理結(jié)果異常，請(qǐng)檢查輸入音頻/視頻格式是否支持（推薦16kHz WAV或H.264 MP4）。本版不內(nèi)置任何模型，需自行加載合法來(lái)源的模型文件。