行业/好文
-
这篇论文直接把transformer能处理的token数提到了一百万！
探讨了大型语言模型（LLM）中 “in context learning” 的概念，指出这种学习方式与传统训练不同，但能通过填充上下文达到训练模型的目的。此外，文章探讨了在运行时训练 LLM 的应用和可能带来的影响，如大型企业内部的知识管理和自动化白领工作等。同时，文章也讨论了面临这种技术后，企业应对信息自由化带来的挑战。 如果这样的话，那应用场景可就太…
-
陆奇最新演讲实录：我的大模型世界观
作者｜张小珺 出品｜腾讯新闻《潜望》 就连陆奇都说他跟不上大模型时代的狂飙速度了。他让下属做“大模型日报”，一方面便于他跟上论文和信息更新，另一方面给奇绩生态创业者共享。他用了三个“实在”表达这一点。“我实在不行了，论文实在是跟不上，代码实在是跟不上。Just too much（太多了）。”陆奇在近期一次分享活动上说。 这样的时刻还从没有过。奇绩创坛创始人兼CEO陆奇是中国AI…
-
“人工智能教父”杨立昆Yann LeCun：ChatGPT没那么厉害
《巴伦周刊》最近与Meta首席人工智能科学家Yann LeCun就AI的发展做了交流。 人工智能领域的科学家杨立昆认为，对于ChatGPT或GPT4等语言模型的技术来说，并没有什么秘密，只是它们可以公之于众。近来，一些科技业高管呼吁暂停先进的人工智能系统的开发以应对有害的结果，被杨立昆称之为毫无必要。大型语言模型可以被想象成一个超级预测键盘，通过训练，预测下一个单词，并填写进去…
-
Google Bard 支持完成各种编程和软件开发任务(包括代码生成、调试和解释等）
Google Research 最近更新了其人工智能协作平台 Bard（https://bard.google.com/），使其加入了编程和软件开发任务支持。Bard 可以协助用户生成代码、调试代码、解释代码，并提供在20种编程语言（包括 Python、Java 和 C++）中的编程和软件开发支持。此外，Bard 可以优化用户的代码以提高其效率。但是，Bard 仍处于早期阶段，…
-
OpenAI 的语音转文本 API ：Whisper JAX ，最快的 Whisper API
OpenAI 的语音转文本 API“Whisper”刚刚得到增强： 这个工具转录音频的速度比 Whisper 快 70 倍 使用 Whisper JAX：最快的 Whisper API 现在可以在大约 30 秒内转录一个 2 小时的播客 在这里使用你的麦克风试试： https://huggingface.co/spaces/sanchit-gandhi/whisper-jax …
-
李宏毅 (Hung-yi Lee) – 大模型 + 大資料 = 神奇結果？：大模型的頓悟時刻
本视频介绍了大型语言模型中的大模型和大数据，以及最新推出的GPT-4模型。 精华 👾 随着模型和数据的大小增加，生成式AI的表现越来越出色。 💻 虽然好的文字接龙模型并不一定代表最终应用上的好表现，但是这项研究的实验结果显示模型大小和数据量对生成式AI的表现至关重要。 🤖 GPT-4模型的表现值得期待，是深度学习领域的重要进展。 PPT文件： https://t.zsxq.co…
-
复旦大学 MOSS 大模型今日开源：超 100 万条对话训练数据
复旦大学自然语言处理实验室开发的新版 MOSS 模型今日正式上线，成为国内首个插件增强的开源对话语言模型。4月21日，MOSS 模型已上线开源，相关代码、数据、模型参数已在 Github 和 Hugging Face 等平台开放。 MOSS 与 ChatGPT 相比，有哪些主要差异？复旦大学计算机科学技术学院邱锡鹏团队表示，最大差异还是参数规模。ChatGPT 的参数量多达 1…
-
Google Brain & DeepMind 宣布合体！终于不内斗了，可以好好干活了
DeepMind和Google Research的Brain团队将合并为一个单一部门，称为Google DeepMind。该动作将帮助加速AI研究的进程，并帮助安全、负责任地开发功能更强大的AI系统。通过与Google产品领域的同事的合作，DeepMind计划提供AI研究和产品，从而改善数十亿人的生活、改变行业、推动科学进步，服务于多元化的社区。通过创建Google DeepM…
-
对话王慧文：AGI这么伟大的事情，谁做成了我都会鼓掌
从宣布要“带资入组”入局AI创业，又以一篇篇组队“英雄贴”搅动业界神经，已退休的美团联合创始人王慧文，无疑是搅动本轮AI大模型创业热潮的标志性人物。 但此时，接受36氪访谈的王慧文，却表现出异乎寻常的收敛和谨慎。面对我们的提问，他有时陷入沉思，有时回答没想过，有时表示不方便说。 相比以往的飞扬——例如，2018年他在接受我们访谈时，不讳言自己“抬价”，引发阿里给饿了么的收购价从…
-
王川: 从 chatGPT 看人工智能的投资机会和风险
王川：关于 chatGPT 的随想 （一） （1） 先做一下风险提示。第一，今天和大家的分享全是来自公开可以到网上查的信息。第二，这里只是谈我对美国股票市场的经验，对亚洲和中国的市场，我不了解。第三，我只是预测比较长期的，三四年以上的趋势，也只对这种研究感兴趣。就是你投了以后，可以什么都不管，躺平。也不用挖空心思，揣测下个季度收入好不好，也不用太担心竞争者来了，等等。第四，我的…
