AI智能体正在改变人们与PC的交互方式。创作者、开发者和AI爱好者已经在日常工作中广泛使用这些智能体来辅助写作、编程、数据分析和内容创作。NVIDIA与微软合作，在Windows PC上推出了一系列新工具，使开发者能够构建在本地运行的AI智能体应用。这一合作的核心目标是让智能体充分利用PC端GPU的算力，在保护用户数据隐私的同时提供低延迟的AI体验。
这套方案基于NVIDIA RTX GPU的本地推理能力。通过NVIDIA NIM（NVIDIA Inference Microservice），开发者可以在Windows PC上本地部署经过优化的AI模型，涵盖大语言模型、视觉模型和多模态模型。NIM利用TensorRT-LLM和TensorRT等优化引擎，在RTX GPU上实现高效的本地推理，响应延迟低至毫秒级。结合Microsoft的Windows Copilot Runtime和AI框架，开发者可以构建能够访问本地文件、调用Windows API和连接企业数据源的智能体应用。
在实际应用场景中，个人AI智能体可以执行文档摘要、邮件撰写、代码生成、图像编辑和数据分析等任务，所有处理均在本地完成，数据不会离开用户的PC。对于需要联网搜索或访问企业系统的场景，智能体可以通过MCP（Model Context Protocol）等标准协议安全地连接外部服务。NVIDIA和微软的这一合作方案，使AI智能体从云端AI助手向真正的个人AI生产力工具迈出了关键一步，让每个Windows用户都能拥有专属的本地AI助手。
WeChat
Profile