cover of episode Google Builds AI Clean Energy Centers, IBM Introduces Co-Packaged Optics, Hyro Revolutionizes Healthcare Automation, Alphabet Invests $50B in AI, and more...

Google Builds AI Clean Energy Centers, IBM Introduces Co-Packaged Optics, Hyro Revolutionizes Healthcare Automation, Alphabet Invests $50B in AI, and more...

2024/12/11
logo of podcast AI News Daily

AI News Daily

People
新闻播报员
Topics
新闻播报员: 谷歌正与Intersect Power和TPG Rise Climate合作,建设结合千兆瓦数据中心容量和新型清洁能源工厂的工业园区。此举旨在应对人工智能日益增长的能源需求以及现有电力基础设施面临的挑战。美国电网因生成式人工智能等高能耗技术的需要而承受着巨大压力,迫切需要清洁能源来支持其发展。 该合作旨在提高谷歌的国内数据中心产能,以满足人工智能技术推动的云服务需求。通过建立一个将负载增长与新的清洁能源资源相结合的模式,该合作旨在提高电网可靠性和能源可负担性。这种一体化的方法也有望创造就业机会,特别是在农村地区,因为它可以缩短开发时间并提高电网可靠性。该项目的第一阶段预计将于2026年投入运营,并计划于2027年全面完工。 IBM正在利用其开创性的协同封装光学技术(CPO)取得数据中心技术方面的重大进展。这项创新旨在取代芯片中的传统电互连,这将极大地提高人工智能模型的训练速度并提高数据中心的能源效率。CPO技术预计比中档电互连节能5倍以上,并且可以将电缆长度从1米延长到数百米。为了实现高速光连接,IBM工程师开发了一个利用聚合物光波导技术的模块。这些CPO模块已经通过了严格的压力测试,证实了其在各种环境条件下的耐用性。 Hyro正在利用其负责任的AI驱动的通信平台在医疗保健行业掀起波澜,该平台旨在自动化高达85%的常规患者互动。这项创新不仅简化了运营,还降低了35%的成本,为医疗保健提供商带来了惊人的五倍投资回报。该平台在设计时就考虑到了HIPAA合规性,增强了患者获得服务的途径,同时通过自动化重复性任务来减轻医疗工作人员的负担。 Alphabet公司正在改变其投资策略,专注于通过人工智能增强在线搜索能力。该公司总裁兼首席投资官Ruth Porat在2024年12月10日举行的路透社Next大会上强调了这一举措。她指出,Alphabet公司超过3000亿美元的年收入中有很大一部分来自与搜索相关的广告,这使得搜索成为一个关键的关注领域。Porat宣布,公司将在2024年投资500亿美元用于技术基础设施,其中包括对芯片和数据中心的升级。她将这项投资称为技术领域的一次‘一代人的机遇’。 OpenAI通过推出新的订阅计划ChatGPT Pro(每月200美元)迈出了重要一步。该计划允许用户访问其最先进的模型,包括新推出的O1和Sora Turbo。Sora Turbo是一个值得注意的补充,它是一个文本转视频模型,允许用户创建高达1080p的高质量视频。它包括旨在防止滥用的安全措施,例如可见水印和严格的内容审核。除了Sora Turbo之外,OpenAI还推出了O1和O1 Pro推理模型。这些模型的评价褒贬不一,但在编码和高级数学任务方面表现出色。为了进一步增强模型定制,OpenAI实施了一种强化微调技术,这有望帮助针对特定推理任务的开发人员。 Amanda Peterson Corio: 作为谷歌全球数据中心能源主管,Amanda Peterson Corio强调了需要新的清洁能源来满足人工智能不断增长的电力需求。她指出,为了支持人工智能的快速发展和对云服务的日益增长的需求,需要与可再生能源资源相结合的创新数据中心基础设施。 Dario Gil: IBM研究院院长Dario Gil强调了集成CPO技术对发展数据中心以满足生成式人工智能日益增长的需求的重要性。他解释说,CPO技术通过显著提高芯片间通信带宽和降低能耗,解决了大型语言模型训练中面临的挑战,从而缩短了训练时间并降低了能源成本。 Amir Dan Rubin: Healthier Capital创始人Amir Dan Rubin强调了与Hyro的合作关系对利用负责任的AI解决方案改变患者参与度的重要意义。他认为,Hyro的平台通过自动化常规患者互动,提高了效率,降低了成本,并改善了患者体验,从而为医疗保健行业带来了变革。 Ruth Porat: Alphabet公司总裁兼首席投资官Ruth Porat宣布了对技术基础设施的500亿美元投资,其中包括对芯片和数据中心的升级,以增强在线搜索能力。她将这项投资描述为技术领域的一次‘一代人的机遇’,并强调了人工智能在满足不断变化的搜索环境中用户需求方面的作用。她还提到了Alphabet公司在医疗保健方面的努力,包括开发AlphaFold等AI系统,以及对谷歌云的持续投资。

Deep Dive

Key Insights

Why is Google partnering with Intersect Power and TPG Rise Climate to build clean energy data centers?

Google is collaborating with Intersect Power and TPG Rise Climate to address the rising energy demands of AI and the strain on the U.S. power grid. The initiative aims to combine gigawatts of data center capacity with new clean energy plants, improving grid reliability, energy affordability, and creating job opportunities in rural areas. The first phase is expected to be operational by 2026, with full completion by 2027.

What are the key benefits of IBM's co-packaged optics (CPO) technology for AI model training?

IBM's CPO technology replaces traditional electrical interconnects in chips, reducing energy consumption by over five times and extending cable lengths from one meter to hundreds of meters. It enhances chip-to-chip communication bandwidth by up to 80 times, significantly improving data transfer rates. This innovation could reduce the training time for large language models from three months to three weeks, saving energy equivalent to the annual consumption of 5,000 U.S. homes per model.

How does Hyro's AI platform revolutionize healthcare automation?

Hyro's AI platform automates 85% of routine patient interactions, reducing costs by 35% and delivering a five-fold return on investment. It is HIPAA-compliant, enhances patient access to services, and alleviates the burden on healthcare staff. The platform leverages large language models and proprietary natural language engines to manage patient interactions effectively, providing actionable insights through its analytics suite. Hyro recently raised $10 million in a Series B funding extension, bringing its total funding to $50 million.

What is the significance of Alphabet's $50 billion AI investment in search?

Alphabet's $50 billion investment in AI aims to enhance online search capabilities, integrating AI-generated overviews for complex queries. This initiative is critical as a substantial portion of Alphabet's over $300 billion annual revenue comes from search-related advertising. The investment includes upgrades to chips and data centers, positioning Alphabet to compete effectively against OpenAI's ChatGPT and meet evolving user needs in the search landscape.

What features are included in OpenAI's ChatGPT Pro subscription plan?

OpenAI's ChatGPT Pro, priced at $200 per month, provides access to advanced models like O1, O1 Pro, and Sora Turbo. Sora Turbo is a text-to-video model that creates high-quality 1080p videos with safety measures like visible watermarks and strict content moderation. The O1 models excel in coding and advanced mathematics tasks. The plan also includes reinforcement fine-tuning for model customization, catering to developers targeting specific reasoning tasks.

Chapters
Google, Intersect Power, and TPG Rise Climate are partnering to build AI-driven clean energy data centers by 2027, addressing the rising energy demands of AI and improving grid reliability. The first phase is expected to be operational by 2026. This collaboration aims to create a sustainable energy model for AI's growth.
  • Google's collaboration with Intersect Power and TPG Rise Climate
  • Building AI-driven clean energy data centers
  • Power-first strategy to address AI's energy demands
  • First phase operational by 2026, full completion by 2027

Shownotes Transcript

早上好。今天是12月11日,这是您每日的AI简报。以下是您需要了解的一切。在一个重要的合作中,谷歌正与Intersect Power和TPG Rise Climate联手开发工业园区,这些园区将结合千兆瓦的数据中心容量和新的清洁能源工厂。这项倡议是由一种“电力优先”战略驱动的,旨在解决人工智能日益增长的能源需求以及当前电力基础设施面临的挑战。

由于生成式AI等先进技术的能源密集型需求,美国电网承受着相当大的压力。随着这些技术的不断发展,迫切需要更清洁的能源来支持其增长。经济学家预测,到2030年,人工智能每年可为美国GDP贡献超过一万亿美元,这凸显了可靠能源资源的关键重要性。

这项合作旨在增强谷歌的国内数据中心能力,以满足人工智能技术推动的云服务日益增长的需求。通过建立一个将负载增长与新的清洁能源资源相结合的模型,该合作寻求提高电网可靠性和能源可承受性。这种集成方法也有望创造就业机会,尤其是在农村地区,因为它可以缩短开发时间并提高电网可靠性。

该项目的第一个阶段预计将于2026年投入运营,并预计于2027年全面完成,这标志着与传统解决方案相比,可再生能源的快速部署。虽然数据中心的容量和位置的具体细节尚未披露,但该合作伙伴关系将建设大量可再生能源产能。

谷歌全球数据中心能源主管Amanda Peterson Corio强调,需要新的清洁能源来满足人工智能驱动的不断增长的电力需求。Intersect Power成立于2016年,专注于可扩展的低碳能源解决方案,并且是TPG Rise Climate的一部分,TPG Rise Climate是一家致力于气候倡议的私募股权基金。IBM在其开创性的共封装光学器件(CPO)技术方面在数据中心技术方面取得了重大进展。

这项创新旨在取代芯片中的传统电互连,这可以极大地增强人工智能模型的训练并提高数据中心的能源效率。

与中档电互连相比,CPO技术预计可将能耗降低五倍以上,并将电缆长度从一米延长到数百米。为了实现高速光连接,IBM工程师开发了一个利用聚合物光波导技术的模块。这些CPO模块已成功通过严格的压力测试,证实了其在各种环境条件下的耐用性。

该系统中的每根光纤大约是人类头发直径的三倍,并且可以在较长的距离上传输每秒太比特的数据。IBM的研究表明,可以堆叠多个聚合物光波导,这增强了芯片内连接密度和数据传输能力,

随着对AI集群的需求增长,可能达到100万个加速器,像CPO这样的高效互连技术的重要性变得越来越关键。与现有的电连接相比,这项技术有望将芯片间通信带宽提高多达80倍,从而显著提高数据传输速率。

目前,CPO技术的重点是芯片间连接,这在互操作性挑战较少的环境中具有优势。IBM高级副总裁兼研究主管Dario Gil强调,集成CPO技术对于发展数据中心以满足生成式AI日益增长的需求至关重要。

值得注意的是,这一进步可以将大型语言模型的训练时间从三个月缩短到三个星期,节省的能源相当于每个模型每年5000个美国家庭的消耗量。IBM的CPO技术将光子集成电路与外部单模光纤连接起来,旨在提高数据中心的整体效率。

HIRO凭借其负责任的AI驱动通信平台在医疗保健行业掀起波澜,该平台旨在自动化高达85%的常规患者互动。这项创新不仅简化了运营,还降低了35%的成本,为医疗保健提供商带来了惊人的五倍投资回报。

该平台在设计时就考虑到了HIPAA合规性,增强了患者获得服务的途径,同时通过自动化重复性任务来减轻医疗保健人员的负担。2024年,HIRO已成功与美国各地领先的医疗系统建立了合作伙伴关系,包括Hackensack Meridian Health和Emory Healthcare。

该公司还与Salesforce和Cisco等主要的CRM和电话供应商建立了战略联盟,扩展了其在数字医疗保健领域的覆盖范围。最近,Hiro在B轮融资扩展中又获得了1000万美元的资金,使其总融资额达到5000万美元,其中Healthier Capital领投。

这笔新资金将增强HIRO交付会话式和生成式AI解决方案的能力,以满足对医疗保健数字服务日益增长的需求。在过去的一年中,HIRO将其年度经常性收入翻了一番,并且正在将其服务扩展到包括付款人和制药公司在内的各个医疗保健领域。

通过利用大型语言模型和专有的自然语言引擎,HIRO有效地管理患者互动,提高运营效率和整体患者体验。该平台还提供了一个分析套件,为医疗保健组织提供有关患者互动的可操作见解,帮助他们优化运营并增强患者体验。

Healthier Capital创始人Amir Dan Rubin强调,这项合作是通过负责任的AI解决方案改变患者参与度的重要机会。展望2025年,HIRO计划推出外呼功能,以减少预约缺席并促进主动患者参与。

与Healthier Capital的合作突显了HIRO致力于创新医疗保健交付,同时优先考虑患者安全和组织效率。谷歌的母公司Alphabet正在对其投资战略进行重大转变,重点是通过人工智能增强在线搜索功能。该公司总裁兼首席投资官Ruth Porat在2024年12月10日举行的路透社Next大会上强调了这一举措。

她指出,Alphabet超过3000亿美元的年收入中有很大一部分来自与搜索相关的广告,这使其成为一个关键的关注领域。Porat宣布,2024年将在技术基础设施方面投资500亿美元,其中包括升级芯片和数据中心。她将这项投资称为技术领域的一次千载难逢的机会。

尽管这些投资规模巨大,但Porat向利益相关者保证,Alphabet的战略将仍然以结果为导向,重点是创造回报。将人工智能集成到搜索功能中将包括为没有直接答案的查询生成人工智能生成的概述,使Alphabet能够有效地与OpenAI的ChatGPT竞争。

Porat强调,公司旨在满足不断变化的搜索环境中的用户需求,从而加强其对创新的承诺。除了搜索之外,Porat还将谷歌云确定为Alphabet另一个重要的投资领域。她讨论了Alphabet的医疗保健计划,包括开发AlphaFold,这是一种旨在预测蛋白质结构以通过同构实验室辅助药物发现的人工智能系统,

Porat指出,人工智能可以通过让医务人员更多地关注患者互动而不是行政任务来增强患者护理。然而,她承认人工智能相关的挑战,特别是人工智能可能产生不准确信息(“幻觉”)的风险。总的来说,对人工智能投资的重视突显了搜索和相关技术在Alphabet商业模式中起到的关键作用。

OpenAI通过推出新的订阅计划ChatGPT Pro(每月200美元)迈出了重要一步。该计划允许用户访问其最先进的模型,包括新推出的O1和Sora Turbo。Sora Turbo是一个值得注意的补充,它充当文本转视频模型,允许用户创建高达1080p的高质量视频。

它包括旨在防止滥用的安全措施,例如可见水印和严格的内容审核。除了Sora Turbo之外,OpenAI还推出了O1和O1 Pro推理模型。

这些模型的评价褒贬不一,但在编码和高级数学任务方面表现出色。为了进一步增强模型定制,OpenAI实施了一种强化微调技术,这有望帮助针对特定推理任务的开发人员。随着生成式AI领域的竞争日益激烈,关于这些进步的可持续性问题也随之出现。

像亚马逊这样的新进入者已经推出了其Nova系列大型语言模型,旨在进行文本、图像和视频生成,这标志着市场发生了重大转变。

谷歌还将其Gemini模型更新为Gemini EX P1206,在基准测试中取得了最高分,而Meta则发布了拥有700亿参数架构的Lama 3.3。与此同时,微软正在测试其副驾驶视觉功能,而DeepMind的Gencast AI系统旨在提高天气预报的准确性。

OpenAI通过ChatGPT Pro计划转向货币化,这引发了人们对其模型通过APY访问的未来可用性的担忧,并引发了关于AI公司和用户之间价值分配的讨论。尽管ChatGPT Pro的价格很高,但许多用户可能会在其高级功能中找到重要的价值,尤其是在解决各个领域的复杂问题方面。

这是您每日的AI简报。要阅读有关这些故事的更多信息,请关注剧集简介中的链接。您也可以通过www.brief.news订阅这些更新。有关您喜爱的主题的更多每日播客,请访问brief.news/podcasts。明天收听。我们将带着您需要了解的一切回来。