Is AI progress stuck? | Jennifer Golbeck
2024/11/23
TED Talks Daily
E
Elise Hu
专注于探讨数字文化和社交媒体美容滤镜对心理健康和自我形象的影响的记者和播客主持人。
J
Jennifer Golbeck
Elise Hu对当前AI技术在特定任务上超越人类的能力表示肯定，并引出了人们对人工智能通用能力（AGI）的担忧，以及科技行业对AI潜在威胁的警告。
Jennifer Golbeck认为，科技行业对AI威胁论的宣传，可能出于经济利益和娱乐性炒作，对AGI的担忧分散了人们对AI现有问题的注意力，例如深度伪造和算法偏差。她指出AI发展可能已达到瓶颈，未来的进步将是渐进式的改进。她强调AI算法的可靠性问题是实现AI发展目标的主要挑战，并深入探讨了AI的“幻觉”问题，即AI编造信息，以及该问题可能难以解决的原因。她还分析了AI在法律领域的应用，指出即使是号称无“幻觉”的AI工具，仍然存在较高的错误率，限制了其实用性。为了提高AI的实用性，需要更多的数据和技术改进，但她认为高质量数据的获取日益困难，AI训练数据可能面临枯竭，AI训练数据中低质量内容的增加，可能导致AI性能下降。此外，她认为当前AI的经济效益不足以支撑其高昂的研发成本。针对人们对AI抢走工作的担忧，她指出AI提高效率后，企业更有可能保留现有员工，而不是裁员。她强调AI的偏见问题是需要关注的重点，解决AI偏见问题非常困难，简单的“护栏”措施往往无效。最后，她指出人类智能的核心在于人际关系、情感和创造力，这些是AI无法复制的，无需过度担忧AGI对人类文明的威胁，因为人类始终可以关闭AI系统。
Deep Dive
Shownotes Transcript