R
Rail
任
任宁
主持《迟早更新》播客，探讨科技、商业、设计和生活之间的关系。
任宁：本期节目讨论谷歌发布的AI研发七条原则，以及这些原则背后的社会和伦理考量。这些原则并非绝对准则，而是会随着社会发展而演变。在AI应用的早期阶段，谷歌难以在商业和技术层面真正实现这些原则。
Rail：谷歌发布AI原则，部分原因是由于Project Maven项目引发的内外压力。这些原则不仅仅是为了研发，也是为了塑造其对外形象。许多原则缺乏具体的指导意义，关键在于如何定义“有用”，以及由谁来定义。
任宁：判断AI算法中是否存在“不公平偏见”，需要结合人的主观价值判断。AI算法会反映人类在理解世界的方式，因此可能存在偏见。社会偏见可能导致自我实现的预言。
Rail：即使统计结果客观存在，也需要从社会公平的角度考虑是否需要披露或揭露。Uber自动驾驶事故，凸显了AI系统测试流程中可能存在的问题。软件工程的质量认证水平远低于传统工业，这使得AI系统的安全测试面临巨大挑战。
任宁：‘以安全为准绳进行制作和测试’原则是一个美好的愿景，但缺乏具体的实施方案。福特汽车Pinto案例说明，即使公司知道产品存在安全隐患，也可能出于成本考虑而选择不改进。‘对人负责’原则的必要性在于，当AI系统控制关键业务时，需要人工干预机制来避免灾难性后果。冷战时期Stanislav Petrov阻止核战争的案例，说明人工干预机制在关键时刻的重要性。
Rail：‘对人负责’原则的实施存在风险，即人工干预机制可能被滥用。AI技术是一种新的权力，需要考虑如何避免技术专制。在设计AI系统时，应考虑隔离机制，以限制系统错误的影响范围。
任宁：谷歌试图通过AI原则来制定新的行业规则。‘坚守科学发展观’原则缺乏具体的执行方案和意义解读。谷歌在制定AI原则时，其思维方式体现了技术至上的理念。谷歌的AI原则关注的是技术进步，而非人类进步。仅仅依靠道德约束无法保证AI原则的有效执行，需要外部约束机制。
Rail：AI技术尚处于早期阶段，缺乏足够的案例来促使人们对AI伦理进行深入思考。即使公司内部遵守AI原则，也无法保证AI系统本身会遵守这些原则。经济学研究表明，劳动力市场对社交能力的需求日益增长。中国教育体制下理科生普遍缺乏沟通能力，这是一种需要改进的社会问题。AI技术的发展并非简单的“抢工作”，而是由于现有模式难以持续才被采用。
Deep Dive
This chapter discusses the controversy surrounding Google's Project Maven, a military AI project that sparked internal and external debate about the ethical implications of AI in warfare. The discussion involves employee dissent, the role of prominent AI researchers like Fei-Fei Li, and Google's eventual withdrawal from the project.
- Google's Project Maven, a military AI project for drone image recognition, caused internal controversy.
- Many Google employees protested its military application.
- Fei-Fei Li's involvement and suggestions to avoid the term "AI" in relation to weapons are discussed.
- Google's subsequent withdrawal and the release of its AI principles are highlighted.
Shownotes Transcript