近期，微软微软正式升级Windows 11系统的正式底层AI框架，实验性原生支持GGUF和ONNX两大主流模型格式的升级本地推理，以后用户不用额外安装复杂的底层第三方软件，直接在系统层面就能运行本地大模型，框架门槛直接降到几乎为零。微软

过去普通玩家在Windows电脑上跑本地大模型，正式流程非常繁琐：首先要先下载专门的升级第三方推理工具，接着从开源社区找对应格式的底层模型文件，还要手动配置环境变量、框架调整硬件加速参数，微软哪怕是正式对技术比较熟悉的用户，第一次折腾也要花好几个小时才能跑通，升级普通用户更是底层根本摸不着门道。而且不同的框架工具适配的模型格式还不一样，想换个不同格式的大模型试试，整个配置流程几乎要重来一遍，很多人折腾到一半就直接放弃了。

这次微软升级的Windows ML本地AI推理框架，直接和开源社区深度合作，在系统底层原生加入了对GGUF和ONNX两大主流模型格式的支持。GGUF是现在本地大模型领域的事实标准格式，几乎所有开源社区的主流本地大模型都采用这种格式封装，ONNX是跨平台通用的开放神经网络交换格式，大量工业级AI应用都基于这套格式开发。现在Windows 11系统原生就能直接识别这两种格式的模型文件，开发者不用再做复杂的格式转换，用户也不用额外安装第三方推理环境，直接就能在本地加载运行模型。

为了进一步提升本地运行的性能，微软还和英伟达深度合作，针对Windows平台的硬件适配贡献了大量底层性能优化代码。升级之后系统新增了专门的Windows ML Runtime API，比过去的推理路径拥有更高的运行性能、更深的系统级集成，开发者可以直接调用这套系统接口，快速给应用添加上文本生成、语音识别这类本地AI功能，不用自己从零搭建复杂的推理引擎，开发效率大幅提升。普通用户最直观的感受就是，大模型在自己的Windows电脑上本地运行的速度明显变快，哪怕是普通配置的家用电脑，也能流畅跑起主流的7B级大模型。

在实际使用的过渡层面，微软也做了非常平滑的兼容设计。过去大家广泛使用的ONNX Runtime API依然得到完整的官方支持，不会出现旧的AI应用突然没法运行的问题，同时微软明确表示，未来针对Windows平台的AI性能优化资源，会优先投向全新的Windows ML Runtime API，开发者可以根据自己的项目进度，自主选择合适的迁移时机，不用被迫仓促完成技术升级。这套新的系统接口还直接自带了封装好的文本生成API和语音识别API，开发者不用再自己处理复杂的底层推理逻辑，几行简单的代码就能给应用添加上本地AI能力。

目前这套实验性的原生本地推理能力已经随最新的Windows 11版本推送，后续微软还会持续迭代优化兼容性和运行性能，逐步把本地AI能力变成Windows系统的基础原生能力，让更多普通用户不用折腾复杂配置，就能轻松在自己的电脑上用上完全离线、数据不会上传云端的本地大模型。

• ·无锡崇安寺步行街9.8亿元ABS获上交所反馈
• ·泉州市2026年民族团结进步宣传周暨第十九个民族团结进步宣传月主题活动在永春举行
• ·SCTF星通时频在PLC主板上的时钟器件介绍
• ·志邦、江山欧派、左尚明舍家居等被认定为高新技术企业,享受相关政策优惠
• ·固安一能科技有限公司成立 注册资本100万人民币
• ·中国10强进口木材港口名单\高库存下预计近期国内辐射松价格还将继续下滑-
• ·《中土世界：战争之影》支线任务加入过场动画
• ·泉州市2026年民族团结进步宣传周暨第十九个民族团结进步宣传月主题活动在永春举行
• ·谢娜北京演唱会仅3万人想看 揭秘谢娜演唱会被抵制的原因
• ·中颖电子荣获DEKRA德凯ISO 26262 ASIL B功能安全产品证书
• ·地球是平的？欧文抛出古怪言论 詹皇追梦竟认同
• ·潜行动作《杀手5：赦免​​​​​​​》Switch2版本10月22日发售！
• ·收藏正在从个人爱好转向文化传承与资产配置双重价值 收藏资讯
• ·厦门全市电梯维保情况将实现动态实时监管
• ·“广东省门窗协会中式仿古门窗专委会”正式成立
• ·2026年永春县社会科学普及宣传周启动仪式暨全民国防教育月主题宣传活动举行