第四范式推出支持毫秒级恢复的万亿维线上预估系统

6月30日消息，第四范式定制开发了基于持久内存技术、支持实时恢复的万亿维线上预估系统，可提供高可用性、毫秒级恢复的在线预估服务，同时将企业总拥有成本降低80%。

据介绍，该系统基于第四范式AI算力平台SageOne的持久内存进行了软硬一体设计，可实现每秒亿级KV查询的性能，并与第四范式自研的高维机器学习框架以及TensorFlow等AI开源框架无缝对接。

资料显示，线上预估服务是AI在企业应用落地的关键环节，企业通常会采用分布式计算架构在内存中完成实时数据处理和高达万亿维的模型特征存储，并通过多集群副本解决传统纯内存（DRAM）天生的易“失”性隐患，以达到线上实时服务质量（Quality of Service）效果。然而，随着企业AI应用模型大小和数量的增长，线上预估服务所需要的硬件资源也呈几何倍数增加。