OpenAI Enhances ChatGPT for macOS, Decart Secures 500M Valuation, Study Exposes AI Jailbreaking Risks, Google Enhances Gmail Security, and more...
11:17 Share

早上好，今天是12月20日，这是您每日的AI简报。以下是您需要了解的一切。OpenAI在2024年12月19日发布的最新公告中占据了头条新闻，揭示了对ChatGPT的重大改进。此更新将其AI与各种macOS应用程序（包括Apple Notes、Notion和Xcode）集成在一起，作为其“12 Days of Shipmas”活动的一部分。

这些增强功能允许ChatGPT与一系列面向开发人员的应用程序进行交互，例如BBEdit、MATLAB、JetBrains IDE和几个VS Code的分支。这种集成旨在简化用户工作流程，使开发人员更容易在其日常任务中使用AI。引入的一个突出功能是高级语音模式，它使用户能够通过语音命令与ChatGPT互动。

此模式增强了第三方应用程序中的可访问性和交互性，允许用户在工作时在单独的窗口中接收建议和答案。OpenAI的首席产品官Kevin Weil强调了向更自主功能的转变，这表明ChatGPT现在可以为用户自主执行任务，而不仅仅是回答问题。

目前，这些功能仅适用于Mac用户，计划在2025年将类似的功能扩展到Windows用户。更新后的应用程序允许用户调用ChatGPT来执行起草电子邮件或集思广益等任务，而无需切换标签或打开其他浏览器。

在现场演示中，ChatGPT展示了其分析Warp和Notion等应用程序屏幕内容、生成命令并提供上下文感知响应的能力。还暗示了一个名为Operator的潜在新模型，该模型旨在进一步自动化用户任务，并有望很快发布。

随着Shipmas活动的临近结束，人们对最终揭晓的期待越来越高，据推测，最终揭晓将包括AI能力的强大进步。这些发展是在来自谷歌和微软等科技巨头的日益激烈的竞争中出现的，这两家公司最近都推出了先进的AI工具。OpenAI的愿景是创造更集成和协作的AI体验，从而提高专业和个人环境下的生产力。

笛卡尔公司正在AI领域掀起波澜，该公司于2023年末由来自以色列国防军情报部门的老兵Dean Leidersdorf和Moshe Shalev创立。这家初创公司在不到两个月前才从隐身模式中脱颖而出，其使命是建立一个完全垂直整合的AI研究实验室。最近，笛卡尔公司在Benchmark领投的A轮融资中获得了3200万美元的融资，此前曾从红杉资本和Zee Ventures获得了2100万美元的种子轮融资。

凭借这轮最新的融资，笛卡尔公司的后资金估值已飙升至超过5亿美元，与最初的种子轮估值相比有了显著提高。该公司推出了两款主要产品：一款专为企业设计的AI效率工具，用于优化GPU使用率；以及一款名为Oasis的电子游戏。

这两款产品都产生了可观的收入，GPU优化软件将运营成本从每小时100美元降低到低至25美分。Oasis（灵感来自我的世界）自推出以来迅速获得了数百万用户，突显了笛卡尔公司在AI世界建模方面的创新方法。

该公司正准备发布OASIS 1.5版，该版本将允许用户创建和共享整个虚拟世界。此外，笛卡尔公司还开发了一个AI基础设施平台，该平台可以提高大型AI模型的训练效率，效率提高十倍，同时降低成本。目前使用英伟达的H100 GPS，笛卡尔公司计划转向Etched Ink即将推出的Sohu AI芯片，以进一步提高性能。

Leidersdorf为公司设定了雄心勃勃的目标，旨在建立一家万亿美元的企业，能够与OpenAI和Anthropic等AI领域的巨头竞争。此外，笛卡尔公司还专注于通过软件解决方案实现增强现实和虚拟现实体验，战略性地避免了硬件开发的复杂性。

洛桑联邦理工学院最近的研究（发表于2024年国际机器学习会议）揭示了安全对齐大型语言模型中令人担忧的漏洞。尽管经过安全训练，这些模型仍然容易受到自适应越狱攻击。

这项研究指出，目前的评估方法往往高估了这些LLMS的稳健性。这表明迫切需要更广泛的测试方法来准确评估其弹性。随着LLMS越来越多地融入日常任务和决策过程，确保其安全性和与社会价值观的协调一致对于防止潜在的滥用和危害至关重要。

虽然LLMS具有巨大的潜力，但它们也可能被恶意行为者利用来产生有害内容和虚假信息。这引发了对其在各种应用中部署的严重担忧。研究人员在50个有害请求中使用了手动设计的提示模板，在Vicuna 13b和Llama 2 Chat等模型上实现了完美的越狱成功率。

这些攻击的可适应性至关重要，因为不同的模型表现出独特的漏洞，可以通过定制的提示模板来利用。常见的缓解策略，包括安全对齐和拒绝训练，旨在引导模型做出安全的响应。然而，仍然存在很大的局限性。共同作者Nicholas Flammarion强调了增强LLMS稳健性以使其安全地融入社会的重要性。

这项研究的影响扩展到多模态AI应用程序的开发，例如Google DeepMind的Gemini 1.5，其中包含这些发现的见解。研究人员Maxim Andriushchenko、Francesco Croce和Nicholas Flammarion在对领先模型（包括OpenAI的GPT-4和Anthropix CLAWD 3.5 Sonnet）执行越狱攻击时，取得了100%的成功率。

这项研究强调了对AI系统进行道德培训以减轻其作为自主代理被使用时的风险的重要性。随着假日季的临近，谷歌正在加紧努力，以增强Gmail的安全功能，以应对诈骗的高峰期。在最近的一篇博客文章中，这家科技巨头宣布推出旨在保护其25亿Gmail用户免受假日诈骗日益增长的威胁的新AI工具。

这些进步包括一个大大提高检测能力的大型语言模型，使Gmail能够阻止多20%的垃圾邮件，并每天处理多1000倍的用户举报的垃圾邮件。由于这些新的安全功能，数百万条不需要的和可能具有危害性的邮件在到达用户收件箱之前就被拦截了。

值得注意的是，与去年同期相比，谷歌报告称，在假日季第一个月，到达Gmail用户的诈骗邮件减少了35%。为了应对假日购物热潮，在黑色星期五之前部署了一个AI模型，以实时评估数百个威胁信号。尽管取得了这些进步，但谷歌鼓励用户保持警惕，仔细检查可疑电子邮件，并将任何不可靠的邮件报告为垃圾邮件或网络钓鱼邮件。

在这个假日季，三种普遍存在的诈骗包括发票诈骗、敲诈诈骗和名人诈骗，所有这些都是为了诱骗用户提供个人信息或金钱。发票诈骗通常涉及虚假发票，促使受害者付款，而敲诈诈骗则威胁要泄露个人信息。

名人诈骗通过冒充名人或虚假声称代言来误导用户，诱使他们接受可疑的提议。谷歌的AI系统旨在快速适应诈骗者的不断变化的策略，确保数十亿个收件箱的安全。

大型语言模型（LLM）的进步将改变到2030年的业务运营，显著提高各个行业的效率、个性化和创新。普华永道最近的一份报告估计，到十年末，人工智能（以LLM为首）将为全球经济贡献令人印象深刻的15.7万亿美元。

根据麦肯锡的一项研究，人工智能有可能自动化目前多达45%的工作活动。这种能力将使企业能够专注于战略举措，同时降低运营成本。LLM将通过分析非结构化数据并生成可操作的见解来增强数据驱动的决策，为企业提供竞争优势。

这些模型将简化工作流程，自动化例行任务，并优化决策过程，尤其是在供应链管理和人力资源等领域。到2030年，预计客户互动将在很大程度上由AI驱动，企业将利用LLM通过AI聊天机器人和虚拟助手来创造高度个性化的体验，这些助手可以预测客户的需求。

在电子商务领域，LLM将成为分析客户行为以提供定制产品推荐的关键。在金融领域，AI驱动的顾问将提供实时的个性化投资策略。在医疗保健领域，LLM将有助于诊断疾病和制定治疗方案，而在营销领域，它们将分析客户情绪以完善策略。

尽管面临与数据隐私、AI伦理使用和网络安全相关的挑战，但LLM在推动增长和效率方面的潜在益处是巨大的。有效地将LLM整合到其核心运营中的组织将更有能力在数字环境不断发展的过程中蓬勃发展，直至2030年。

LLM能够通过分析海量数据集来理解和生成类似人类的文本，有望改进各个行业的应用。

这是您每日的AI简报。要阅读有关这些故事的更多信息，请关注剧集简介中的链接。您也可以通过www.brief.news订阅这些更新。有关您喜爱的主题的更多每日播客，请访问brief.news/podcasts。我们将在周一回来，为您提供您需要了解的一切。