OpenAI地震,对手却在悄悄办大事

AI行业动态5个月前发布 ainavi
7,632 0

机器之能报道

编辑:Sia

就在 OpenAI 陷入混乱的这几天,竞争对手们——无论是初创公司还是巨头——也没袖手旁观。除了用销售电话「轰炸」对方企业客户,自家基石模型或具体应用都有了重要进展。

直接竞争对手之一、也曾牵涉这起混乱的 Anthropic 刚刚为市场提供了一个新的替代方案——最新发布的 Claude 2.1 对公司旗舰大型语言模型做了三项重要更新。

其中,最引人瞩目的是  Claude 2.1 支持上下文窗口达 200K,Anthropic 表示这是一项复杂的壮举,也是行业首创。在此之前,OpenAI 在开发者日上公布的 GPT-4 上下文窗口为 128K。

200K 相当于大约 150,000 个单词,约 500 页的材料,这对于「整个代码库、财务报表(如 S-1 ),甚至是《伊利亚特》、《奥德赛》等长篇文学作品来说已经足够了。」公司博客中写道。

OpenAI地震,对手却在悄悄办大事

用户现在可以上传大量文档,扫描材料后,Claude 就可以与大量内容或数据对话并进行总结、执行问答、预测趋势、比较多个文档以及执行其他类型的分析。

Claude 聊天服务今年上线至今,已经有数百万用户使用它来翻译学术报告、起草商业文书或者分析复杂合约。许多用户在处理庞大文件时,希望能有更长的上下文窗口和更精确输出,因此,Anthropic 决定进一步扩大窗口规模。

透过与大量内容或数据交谈,更新后的模型可以进行总结、执行问答、预测趋势、比较多个文档等。过去通常需要数小时人工才能完成的任务, 现在仅需几分钟,随着技术进步,预计延迟也将大幅降低。

理论上,技术可以提供用户想要的任何上下文长度,但拥有更多信息并不一定意味着模型也能很好地处理它。有网友 @Greg Kamradt 对 Claude 2.1 上下文记忆进行了压力测试,有一些重要发现:

OpenAI地震,对手却在悄悄办大事网友 Greg Kamradt 对 Claude 2.1 的 200k Token 上下文记忆能力进行了压力测试,并获得了一些重要发现。

比如,非常靠近文档开始、结尾位置事实记忆的准确率几乎 100%,但难以记住和推理中间部分信息。靠近开头部分事实的记忆表现不如对尾部事实的记忆(类似 GPT-4)。

另外,上下文越少,准确性越高。输入超过 90K Token 的上下文长度,记忆能力会逐渐变差。不过,就大多数日常应用来说,32K、64K 上下文窗口长度已经足够。

OpenAI地震,对手却在悄悄办大事

Claude 2.1 另一个令人印象深刻的更新就是改善对内容的理解和摘要水平。公司称,「幻觉率降低 2 倍」——与 Claude 2.0 模型相比,虚假陈述减少了 2 倍。

他们利用一些已知的弱点问题来考验新模型,比如「大量复杂的、事实性的问题」。他们发现,该模型「明显更有可能提出异议,而不是提供错误信息。」

也就是说,更有可能做出表示不确定的回答,比如「我不确定玻利维亚第五大人口城市是什么」,而不是直接给到错误答案,例如「玻利维亚人口第五多的城市是蒙特罗。」

OpenAI地震,对手却在悄悄办大事

另外,该模型在理解和总结方面也做了重要改进,特别是法律文件、财报以及技术说明等需要高准确度内容的文档,错误答案比例减少了 30%,将支持性的特定声明文件进行错误推论的情况减少了 3-4 倍。

OpenAI地震,对手却在悄悄办大事

第三,Claude 2.1 通过整合特定的工具(类似 Agent)来弥补模型不足。用户可以自定义一组工具供 Claude 调用,根据任务自动执行操作。比如,如果发现解决某个问题需要使用计算工具或者调用某个 API,模型就会自动调用。

另外,新模型还有提供了常见的系统提示,在用户输入提示之前,先设定模型的系统提示,比如告诉其扮演特定角色,以更加一致的方式来回答问题。

Anthropic 的模型可能并不总是与 OpenAI 的模型旗鼓相当,但这个行业发展很快,竞争也非常激烈,另一个例子就是对话式聊天机器人 Pi 背后的初创公司 Inflection AI 刚刚完成新的 AI 模型 Inflection-2 的训练。

Inflection-2  比 Inflection-1 的能力要强得多,主要体现在事实知识的显著改进、更好的风格控制以及推理能力的提升。

和竞品相比,Inflection-2 的表现优于 LLaMA 2 的最大 700 亿参数版本、Elon Musk 的 xAI 初创公司 Grok-1、谷歌的 PaLM 2 Large 和 Anthropic 的 Claude 2。

公司 CEO Mustafa Suleyman  ( 也是 Google DeepMind 联合创始人兼前任负责人)声称, Inflection-2 的规模可以被认为是同类产品中最好的——「非常非常接近」GPT-4。从今天开始,Inflection 正在将其培训重点转移到下一个模型上,他预测,该模型将在六个月内达到其前身的 10 倍,再过六个月将达到 10 倍。
OpenAI地震,对手却在悄悄办大事
Inflection-1、Google PaLM 2-Large 和 Inflection-2 在一系列常用学术基准中的比较。

Suleyman 表示,更新后的模型将很快集成到 Inflection 5 月发布的聊天机器人 Pi 中。在此之前,还需要更多的「对齐」,调教 Pi 的语气和回答风格,还要降低模型幻觉。

Suleyman 本人此前曾直言不讳地谈论人工智能安全,在 7 月作为拜登政府召集的七家 AI 公司之一签署了 AI 风险管理的自愿承诺书。他还发誓,要 Pi 远离回答与选举有关的问题和为政治竞选活动制作材料。他最近出版了一本书,其中详细介绍了人工智能的风险,名为「即将到来的浪潮(The Coming Wave)」。

事实上,Suleyman  与 IIya Sutskever 有过交集,后者曾作为 DeepMind 的承包商和顾问为其工作。「我非常尊重他,不仅仅是在技术上,而且他非常有原则,非常真诚。我认为他和团队其他成员的意图是真诚的。」Suleyman 在接受福布斯采访时谈到了对这次 OpenAI 地震的一些看法。

除了两大创业公司基石模型的重要更新,巨头在应用层面也有新的动作。

谷歌 Bard 正在为用户提供视频解读功能。从昨天开始, 测试用户可以通过提问 Bard ,大致了解 YouTube 视频内容。

举个例子。有烹饪经验的人都知道熟记食物配方、每种配方的量和比例有多么头疼和复杂。6 寸戚风蛋糕到底要多少个鸡蛋?多少克糖?一杯浓缩咖啡马天尼要加多少本尼迪克特酒?

现在有了Bard 的帮助,用户只用输入一些提示,就会得到一份完整的浓缩咖啡马天尼成分清单以及操作步骤,省去来回拖曳视频寻找关键信息的麻烦。

OpenAI地震,对手却在悄悄办大事Bard可以总结视频中的关键点,并准确回答浓缩咖啡马天尼的配方。

在总结这段视频时,Bard 涵盖了所有关键部分,比如配料和用量都是准确的,操作说明也是正确的,甚至准确提醒你第一步要用带有冰块的水冷却马提尼杯。

唯一不太准确的是,它告诉你应该摇晃饮料 30 秒——但视频绝对没有演示或建议你摇晃这么长时间。另外,想要获得完整配方,单靠 Bard 生成是不行的,需要你在提示中明确要求「步骤说明」时才会间接获得。

Google Bard 虽然在很多方面可能不如 ChatGPT,但它正在变得越来越有用。同时,另一个热度不亚于 OpenAI GPT-4 的竞争对手 Grok ,马斯克称,也将于下周向 X Premium+ 订阅者推出。

OpenAI地震,对手却在悄悄办大事

虽然马斯克关于产品交付时间框架的声明并不总是有效,但 X 应用程序的代码开发表明 Grok 集成已经在进行中。

本周,应用程序研究员 Nima Owji 分享了屏幕截图,显示了如何将 Grok 添加到 X 的网络应用程序中,并指出其 URL 为 twitter.com/i/grok。

一张截图展示了一个「Ask Grok」文本输入框,用于与聊天机器人对话。

OpenAI地震,对手却在悄悄办大事

另一张屏幕截图中,尚未成为 Premium+ 订阅者的用户将被邀请升级以获得对 Grok 的访问权限。

OpenAI地震,对手却在悄悄办大事

参考链接
https://www.anthropic.com/index/claude-2-1
https://inflection.ai/inflection-2
https://www.theverge.com/2023/11/22/23972636/bard-youtube-extension-update-search-video-content

© 版权声明

关注公众号,免费获取chatgpt账号
免费获取chatgpt

相关文章

暂无评论

暂无评论...