近日，阿里云提出的计算池化解决方案“Aegaeon ”成功入选顶级学术会议SOSP 2025 ，该方案可解决AI模型服务中普遍存在的GPU资源浪费问题 ，大幅提升GPU资源利用率，目前其核心技术已应用在阿里云百炼平台。
SOSP（操作系统原理研讨会）由ACM SIGOPS主办 ，是计算机系统领域顶级学术会议 ，平均每年收录的论文数量仅有数十篇，被誉为计算机操作系统界的“奥斯卡 ” ，入选论文代表了操作系统和软件领域最具代表的研究成果 。本届SOSP大会上 ，系统软件与AI大模型技术的融合成为新的趋势 。
数据显示，在阿里云模型市场为期超三个月的Beta测试中 ，Aegaeon系统在服务数十个参数量高达720亿的大模型时 ，所需的英伟达H20 GPU数量从1192个减至213个，削减比例高达82%（见下图）。GPU用量削减82%意味着公司硬件采购成本将显著降低，这对于动辄使用成千上万张GPU的大型模型服务商至关重要 。
在真实的模型服务场景中 ，少数热门模型（如阿里的Qwen）承载了绝大多数用户请求 ，而大量不常被调用的“长尾”模型却各自独占着GPU资源 。数据显示，在阿里云模型市场中 ，曾有17.7%的GPU算力仅用于处理1.35%的请求 ，资源闲置严重。
而Aegaeon系统通过GPU资源池化，打破了“一个模型绑定一个GPU ”的低效模式 。
Token级调度是该系统的核心创新点 ，Aegaeon多模型混合服务系统在每次生成下一个token后动态决定是否切换模型 ，实现精细化管理，同时 ，通过组件复用 、显存精细化管理和KV缓存同步优化等全栈技术 ，Aegaeon将模型切换开销降低97%，确保了token级调度的实时性 ，可支持亚秒级的模型切换响应 。
据介绍 ，Aegaeon系统支持单GPU同时服务多达7个不同模型，相比现有主流方案提升1.5-9倍的有效吞吐量，实现2-2.5倍的请求处理能力。
如何从底层系统软件层面优化 ，以更好地支撑和赋能上层AI应用 ，已成为全球学术界和工业界关注的焦点 。未来AI的发展将不仅依赖于硬件算力的单纯增长，更需要通过系统级的软件创新来深度挖掘现有硬件的潜力 。
股票网上开户的怎么开通创业板:股票一般在什么平台买-3000亿AI芯片巨头业绩大增！海光信息半年度净利首次突破10亿元 增幅超40%
宁波股票配资网:股票开户那个证卷公司好-吴泳铭为阿里AI设定航线：做操作系统 更要做下一代计算机（附全文）
股票怎么开户网上可以申请:炒股票app排行-特朗普称将对未把生产转移到美国的半导体公司征收关税 中方回应
网上股票开户怎么销户:手机玩股票软件-“脑机接口”概念股浙江东日澄清：公司主业是管菜市场和卖豆腐
网上股票怎么开户流程:武汉股票配资公司-商务部：已部署开展打击战略矿产走私出口专项行动
融资可以买任何股票:网上股票开户怎么开通创业板-港股迎来Agentic AI独角兽！明略科技营收毛利双增 叩开AI商业化大门
翔云优配-翔云优配官网-十大股票配资提示：文章来自网络，不代表本站观点。
翔云优配-翔云优配官网-十大股票配资㉖携手我们，共同迈向财富的未来！全国前10的配资公司，安全稳定，值得信赖。
界面新闻记者|杨志锦界面新闻编辑|王姝...
界面新闻记者|吕文琦在资本市场持续升温下，保险中介机构又开启了新一轮上市潮。2025年开年以来，手回...
实习记者|章宇璠记者|张一诺保险业再迎3项资金运用内部控制应用指引国家金融监督管...
近日，*ST中润(000506，全称为“中润资源股份有限公司”，以下简称“中润资源”)发布公告称，拟更换会计师事务所，由...
界面新闻记者|郭净净继2023年9月撤回科创板IPO申请后，疫苗生产商江苏中慧元通生物科技股份有限公司（简称...
界面新闻记者|吕文琦为孩子投保50万元保额的重疾，因暴发性心肌炎身故后只能获赔一万余元的已交保费。这一案例将...
界面新闻记者|曾令俊连连数字...
界面新闻记者|何柳颖界面新闻编辑|王姝...
记者｜赵阳戈莱特光电（688150.SH）实控人王亚龙、李红燕夫妇共同控制的宇隆光电近日再度IPO辅导备...
文丨财联社自今年以来，中特估这一概念时常被市场提起。正如机构此前指出，这一概念是港股新核心资产，低估值、...
界面新闻记者|冯赛琪3月19日上午，法巴证券（中国）有限公司、上海国际再保险登记交易中心有限公司、安盛环球再...
李强主持召开国务院常务会议，研究建立健全涉企收费长效监管机制有关举措。会议指出，加强涉企收费监管是降低企业经营成本、优化...
界面新闻记者|孙艺真3月21日晚间，沪深交易所发布《以上市公司质量为导向的保荐机构执业质量评价实施办法（试行...
记者辛圆3月25日，博鳌亚洲论坛旗舰报告《亚洲经济前景及一体化进程2025年度报告》（以下简称《报告》...
3月21日，机器人产业延续回调，机器人产业ETF（159551.SZ）下跌2.7%。机器人概念股大幅走低，截至上午收盘...
