InCloudOS 8.0云上AI发布 加速绘制AI应用蓝图

  随着以DeepSeek为代表的云I应用蓝大模型广泛部署，如何高效应用大模型成为用户讨论热点。上A速绘近日，布加墙头马上网可演进的云I应用蓝私有云InCloudOS 8.0云上AI发布，帮助用户实现知识库高效构建，上A速绘多芯多模型统一管理，布加智能体简易运维。云I应用蓝

  可演进的上A速绘私有云InCloudOS 8.0 云上AI融合了自适应推理框架、内存池化等技术，布加墙头马上网实现模型高效按需使用，云I应用蓝大幅降低一次性投入成本。上A速绘同时InCloudOS 8.0定义了AI应用智能体要素，布加让用户像运维虚拟机一样管理AI应用，云I应用蓝让多模型和上百个AI应用统一融合管理成为可能。上A速绘

  推理资源管理高效可控，布加部署私有化模型又快又省

  InCloudOS 8.0支持按照模型分层定义算力资源，支持自适应推理框架，推理过程十倍加速。同时InCloudOS 8.0创新支持NVMe内存池化，支持满血版大参数模型在小显存、小内存中高效运行。

  在元脑高性能PCIe互联算力与新一代处理器支持下，InCloudOS 8.0的推理框架可实现高效节点间调度、任务协同与CPU推理数十倍性能提升。

  云智能体：让用户像运维虚拟机一样运维AI应用

  应用实例+AI大脑+互联网络构成了云智能体管理基础，创建智能体的过程也成为构建管理要素的过程。InCloudOS 8.0通过知识库分域分级，支持用户灵活定义智能体使用的模型，支持灵活配置应用承载虚拟机或PaaS服务规格，用户可轻松实现像管理虚拟机一样管理数百个AI应用。

  AI应用加速并不意味着传统应用消失，浪潮云海坚持可演进的私有云理念，AI应用与传统应用兼顾运维，基础设施充分利旧并高效管理是浪潮云海持之以恒的追求。（张经）

本文地址：http://sanming.hackpro.cn/html/757b1599227.html