![]()
观点网讯:9月3日,互联服务商Equinix宣布联合英伟达、开源模型推理平台Together AI推出分布式AI推理服务“Equinix Inference Exchange”,计划2027年一季度上市。
该服务主要面向三类需求:让推理更贴近用户与数据以降低时延、帮助企业从封闭模型迁移到开源模型以控制成本,以及在受监管行业中把模型运行在指定地区的机房内,满足数据不出境等要求。
Equinix为全球头部互联服务商,Together AI为开源模型推理平台。此次三方合作属于分布式AI推理领域的重要新布局。
从产业影响看,该服务将模型运行下沉至靠近用户与数据的机房节点,推理时延与数据合规问题可在本地处理;企业转向开源模型后,模型使用成本结构随之改变,与当前多数企业依赖封闭模型、推理算力集中在超大规模云厂商机房的格局形成差异。
对相关企业而言,分布式推理模式为数据中心互联服务商、开源推理平台及指定地区机房运营方带来新的业务空间,金融、医疗等数据不出境要求严格的受监管行业可能成为首批落地场景。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.