嫌 Mac 内存不够?有人拿 iPhone 当「外挂显存」,跑大模型预填充提速 44%
手头只有一台 24GB 统一内存的 MacBook Pro,却想跑一个动辄几十 GB 的大模型,怎么办?买新机器的钱一时半会儿凑不齐,但口袋里那…
栏目
大语言模型(LLM)是指使用大量文本数据训练的深度学习模型,可以生成自然语言文本或理解语言文本的含义。大语言模型可以处理多种自然语言任务,如文本分类、问答、对话等,是通向人工智能的一条重要途径
手头只有一台 24GB 统一内存的 MacBook Pro,却想跑一个动辄几十 GB 的大模型,怎么办?买新机器的钱一时半会儿凑不齐,但口袋里那…
AI 智能体有个老大难:同一个错误会反复犯。原因很简单,它每次都在“从零开始”思考。谷歌的新工作 WikiSkill 想解决这件事——让智能体把…
先做一个思想实验:你让 AI 助手把一个简单句子翻译成英文,它调用的是参数量千亿、跑在云端最贵算力上的模型;你让它写五十行代码、再自己 debu…
当你在手机上问一个 AI 问题时,背后真正烧钱的部分不是推理,而是训练。模型的参数量越大,需要的显卡就越多、电费就越高,最后只有少数几家大厂才玩…
10 月 1 日消息,日本供电规模最大的电力公司 JERA(捷热)当地时间今日与 Dell(戴尔)、主权人工智能基础设施开发商 RHAELM 当…
企业用 AI 写代码,最纠结的从来不是“效果好不好”,而是“代码和提示词到底流去了哪里”。GitLab 的新动作,正是冲着这个问题来的。 一分钟…
当一个任务需要几百个 AI 代理协同,谁来管它们的生死、状态和资源?谷歌给出的答案,是把 Kubernetes 的思路搬进智能体世界。 一分钟速…
当全球 AI 开发者还在为 NVIDIA CUDA 生态依赖而苦恼时,DeepSeek 迈出了关键一步。今天,DeepSeek 正式开源面向华为…
想象一下这样的场景:一台救援机器人在地震废墟中穿行,它需要实时分析周围环境、识别被困人员、规划最优路径。如果每一步决策都要上传到云端,延迟可能意…
阿里千问团队又放大招了!这次开源的Qwen3.8-Flash虽然名字还在3.X系列,但骨子里已经是下一代Qwen4架构的技术预览版。简单说,就是…