摘要

  • USPTO专利12,775,572描述成对DPU预测加速器可用时间,并在加速器内存之间传输数据;专利共20项权利要求。
  • SOAR AI把NeuralSync作为未来产品和授权销售方向,但公告没有性能测试,也没有说俄亥俄州首批GPU服务会采用它。

GPU的等待队列里,最贵的东西往往是正在等数据的GPU。SOAR AI刚获授权的一项专利,瞄准的正是这段空转时间。

美国专利12,775,572 B2于10月27日授权,标题是《远程内存访问系统与方法》。专利首页把Aligned.co列为受让人。SOAR AI在同日公告中说,这项专利覆盖NeuralSync的底层技术;公司希望把NeuralSync放在数据中心与加速云业务旁边发展。

专利写的不是一句抽象的“让AI更高效”。每台计算系统把加速器和数据处理单元(DPU)配在一起。DPU预测本机加速器在一个前瞻时间窗内何时可用,再把预测交给另一台系统。另一端的DPU据此选择目标加速器、请求其内存中的数据,再把数据送到本地加速器。专利共20项权利要求,其中系统和方法权利要求分别描述了这套交接过程。

把它想成GPU间的调度台:先估算谁能接下一个任务,再把数据送过去。预测和传输若能减少等待,付费买下的GPU时间就有机会多产出一些有效计算。GPU数量说明容量有多大;每个付费GPU小时真正完成多少工作,才决定容量能不能把钱赚回来。

SOAR AI称NeuralSync旨在减少加速器空转,并把产品化与授权销售列为后续机会。专利让这项技术主张有了可以逐条检查的具体内容。但公告没有公布工作负载、对照基线、吞吐提升、利用率变化、延迟结果、外部授权或相关收入。专利首页列出的受让人是Aligned.co,SOAR的公告则把它与NeuralSync联系起来。

公司计划中另有一只更近的时钟。10月20日,SOAR称俄亥俄州园区首批4,096块MI355X GPU计划于12月31日投入服务;首个订单的收入预计从2027年1月开始,前提是设备交付并完成验收。公司称两份四年期照付不议订单的合同总值为11.7亿美元,并预计2027年收入为1.75亿至2亿美元。公告没有说这批服务会运行NeuralSync。

两件事要分开计时。园区节点可以检验公司能否把签约GPU容量按期上线;NeuralSync的部署才检验专利中的调度方法。可评估的结果应把工作负载、集群规模、对照基线、数据等待时间和有效吞吐放在一起,同时说明落在哪个客户部署或授权合同上。专利告诉读者设计声称要做什么,却没有告诉读者有多少额外任务真正完成。

来源:USPTO专利12,775,572 B2;SOAR AI 10月27日NeuralSync公告;SOAR AI 10月20日俄亥俄州园区更新。