AMD X3D搞AI居然比打游戏还猛!8核暴打16核 领先达88%
据GiggleHD实际测试,比打AMD X3D处理器在RAG(检索增强生成)AI基准测试中展现出远超预期的游戏性能表现,最高领先非X3D芯片达88%。还猛核暴
RAG AI通过外部向量数据库检索信息来增强大模型的打核达回答质量,与纯LLM推理不同,领先向量搜索的比打大量计算负载落在CPU而非GPU上。
随着Agentic AI工作负载的游戏推进,搜索驱动的还猛核暴任务流越来越多,CPU的打核达延迟瓶颈问题日益突出。
HNSW(分层可导航小世界)搜索算法就是领先典型例子,在GPU执行LLM推理的比打同时,CPU负责图检索,游戏更大的还猛核暴缓存意味着更短的检索时间。
GiggleHD使用开源的打核达X3D RAG基准测试,针对个人PC和小团队单节点场景(约100K-200K向量),领先对AMD锐龙9000X3D系列及多款非X3D芯片进行了实测。


结果显示,在100K向量批量搜索中,X3D CPU最高比非X3D芯片快88%;在200K向量测试中,同为8核的锐龙7 9850X3D比锐龙7 9700X快50%以上,且8核X3D芯片的速度超过了16核的锐龙9 9950X。


索引构建方面,100K向量测试时间缩短50%,200K向量缩短39%,并发RAG吞吐量同样由X3D芯片领跑。


差距较小的项目是TTFT(首Token时间)吞吐量,因为该任务主要依赖GPU而非CPU。

- ·当割草机器人遇见世界杯:MOVA打造了一场庭院足球挑战赛
- ·美团旅行:“端午”民俗活动激活古村古镇游 县城景区订单增长超428%
- ·河南高招第3次征集志愿 二本批次最高降20分备档
- ·《厦门经济特区细胞产业促进规定》表决通过
- ·120元的意外伤害保险额度,120元的意外伤害保多少钱
- ·美团旅行:“端午”民俗活动激活古村古镇游 县城景区订单增长超428%
- ·《合金装备3》重制版与原版对比 女主物理效果削弱
- ·半个月打造舒适暑期小窝
- ·nova系列官宣时代少年团成为HUAWEI nova代言人,与敢为的年轻人携手前进
- ·居民为“防盗”车锁警务室边树桩上
- ·一夜之间,京东自营热销榜多款假冒“新会陈皮”集体下架
- ·联想发布YOGA Air 14 Ultra轻薄本,世界杯限定同步开售
- ·当割草机器人遇见世界杯:MOVA打造了一场庭院足球挑战赛
- ·安康市医院感染管理质量控制中心专家组来汉阴县开展专项帮扶检查
- ·魏哲家跟「客戶的客戶」談了|美國地方銀行暴雷,該擔心嗎?|天下雜誌
- ·直击2023中国经济传媒大会丨中国传媒大学新闻学院教授沈浩:GPT可服务于财经内容的标签化、情感化、个性化
