大象新闻记者 金晓利 2025年春节期间,京东云(中原)算力中心上线了DeepSeek-R1.成为河南省第一个提供DeepSeek服务的城市级算力中心。DeepSeek是计算效能和推理精度接近和赶超ChatGPT的国产大模型。受限于DeepSeek公司的算力不足和美国的攻击封锁,客户使用过程中经常出现服务器繁忙和无法使用等问题,同时考虑数据保护需要,政府和企业使用更需要私有化和本地化部署。为了更好地为金融、企业、政府等客户提供数据不出域的私有化模型推理服务,在京东云(中原)算力中心已经上线的业界领先的vGPU AI算力平台的基础上,实现本地化部署DeepSeek,使用户不会受主站流量限制和美国封锁,实现客户数据私有化不出域,满足企业级场景使用。 目前京东云已正式全面上线 DeepSeek-R1、DeepSeek-V3以及所有蒸馏小参数模型(DeepSeek-R1-Distill)模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云vGPU AI算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率70%。 京东云(中原)算力中心拥有先进的数据中心机房和高性能的服务器集群,算力中心可根据需求的动态变化,实施弹性伸缩策略,实现资源的自动扩容和缩减。目前已经有京东言犀大模型、DeepSeek大模型以及上海、深圳、鹤壁等地企业用户的AI应用在算力中心高效运行。 |