企业级 AI 软件套件 – NVIDIA AI Enterprise
NVIDIA AI Enterprise 是一套完整的企业级 AI 软件套件，专为简化和加速 AI 开发与部署设计，帮助用户在多云环境、数据中心和边缘设备上高效运行人工智能工作负载。它集成了 NVIDIA 的多种技术，包括 CUDA® 并行计算架构、cuDNN 深度学习库、TensorRT 推理加速引擎以及 NVIDIA Triton 推理服务器等，支持主流的 AI 框架如 TensorFlow、PyTorch、MXNet 等。
丽蟾云 Leaper 集成 NVIDIA 软件堆栈，提供智算云解决方案
Leaper 是丽蟾科技自主研发的资源调度管理平台，可对 GPU 计算资源进行统一管理和调度，提供高性能的算力支撑。通过与 NVIDIA AI Enterprise 的结合，Leaper 实现了以下关键能力：
分布式训练支持与资源调度：支持在大规模 GPU 集群环境下进行分布式训练，结合 NVIDIA NCCL 优化通信库，确保大规模分布式训练的计算与通信效率。
自动混合精度训练与 FP8 优化：提供自动混合精度训练（AMP）功能，结合 NVIDIA Hopper 架构的 FP8 精度计算能力，在推理方向提供更高的推理性能、更低的延时响应以及更高效的显存使用效率。
预训练模型与加速库集成：集成 NVIDIA 丰富的预训练模型、AI 算法框架与加速库（如 TensorRT、cuDNN 和 PyTorch），使用户能够直接在 Leaper 上快速部署模型，加速推理与训练任务。
实时监控与动态调度：用户可实时监控训练进展，并根据需求动态调整资源调度，确保高效利用 GPU 集群，避免资源浪费。
数据预处理加速：结合 RAPIDS 框架，在 GPU 上加速数据预处理和特征工程环节，缩短训练前期的时间成本。
为开发者打造快速、安全、高性能的 AI 推理微服务
NVIDIA NIM 是 NVIDIA AI Enterprise 的一部分，是一套易于使用的预构建容器工具，旨在帮助企业加速生成式 AI 的部署。Leaper 已全面整合 NVIDIA NIM，覆盖语音 AI、数据检索（RAG）、数字生物学、数字人、大语言模型 (LLM) 等领域。通过 Leaper 内的 NVIDIA NIM，AI 开发者可以：
快速部署 AI 模型：利用预训练且经过优化的 AI 模型，在几分钟内跨各种环境部署 AI 应用程序，显著提高生产力
简化 AI 应用创建：集成众多跨领域的专用微服务，极大地简化创建复杂 AI 应用的过程
跨领域集成：可结合语音识别和大语言模型，创建能够提供个性化客户服务的数字人
加速业务转型：将预训练模型快速集成到现有工作流程中，加速业务运营的数字化转型
为企业与科研机构提供定制化的专业解决方案
丽蟾科技通过整合 Leaper 与 NVIDIA AI Enterprise，为多个行业提供了强大的 AI 开发与推理加速支持：
科学研究：结合 RAPIDS 开源软件库，提供 GPU 加速的数据科学工作流，更快地处理大规模数据集，应用于天体物理、化学模拟、生物信息学等领域
医疗领域：为医疗机构提供高效的 AI 模型训练与推理支持，快速训练和部署 AI 模型，提高疾病诊断的准确性与效率
能源行业：利用 GPU 加速天气预测模型的训练与推理，优化能源分配与生产
制造业：快速部署基于 NVIDIA AI Enterprise 的智能检测系统，实现对产品质量的实时监控和分析
零售与电子商务：快速构建并部署基于 AI 的推荐引擎，为客户提供个性化的购物体验
上海丽蟾科技有限公司董事长吴敏华表示：“NVIDIA AI Enterprise 是一套端到端的完整的 AI 工具套件，在服务客户的过程中，我们发现该套件非常适合运行在云的环境中，通过丽蟾自研的 Leaper 云平台，将 NVIDIA 最先进的 AI 能力集成并传递给每一位客户。”
丽蟾科技通过 Leaper 资源管理平台集成 NVIDIA AI Enterprise，为企业和科研机构提供了一套高效、灵活的 AI 训练与推理加速解决方案。随着 AI 技术的不断发展，丽蟾科技将继续通过这一集成平台推动更多行业的技术进步与应用落地。
WeChat
Profile