cover of episode The Zizian "death cult"

The Zizian "death cult"

2025/3/6
logo of podcast Today, Explained

Today, Explained

AI Deep Dive AI Chapters Transcript
#political conspiracy theories#machine learning theory#philosophy and existentialism#ai and public perception#political analysis and commentary#existential crisis#ai chatbot impact People
M
Max Reed
N
Noel King
Topics
@Noel King : 本期节目探讨了 Zizian "死亡邪教" 的起源、发展和影响,以及其与理性主义和人工智能担忧之间的联系。该邪教与多起暴力事件有关,包括边境巡逻员的死亡。尽管其成员大多已被捕或死亡,但其思想的影响仍值得关注。 @Max Reed : 我追踪报道了 Zizian 事件。理性主义运动起源于硅谷,其核心思想是通过提升推理能力来改善世界,但其一些极端成员发展出了危险的信仰。Ziz,作为该组织的核心人物,宣扬动物生命与人类生命价值相等,并认为暴力是应对动物屠杀的必要手段。她还提倡通过抵抗来避免被捕,并建立了一种基于道德价值的等级制度。Zizian 的活动涉及多起暴力事件,包括对房东的袭击和谋杀,以及边境枪击案。这些事件与 Ziz 的影响和煽动有关,但并非完全由她直接指挥。Ziz 的追随者受其极端思想和对人工智能的担忧所影响,最终导致了这些悲剧。当前时代对人工智能的担忧为 Zizians 的崛起提供了土壤,媒体对人工智能末日论的渲染也加剧了这种担忧。

Deep Dive

硅谷“理性主义”的幽灵:Zizian邪教与人工智能的末日焦虑

我最近追踪报道了一起令人震惊的事件:一个名为Zizian的邪教组织及其与多起暴力犯罪的关联。这个故事的根源,远比简单的邪教故事复杂得多,它与硅谷兴起的“理性主义”运动,以及对人工智能未来风险的普遍焦虑,有着千丝万缕的联系。

Zizian并非一夜之间出现。它发源于硅谷的理性主义运动——一个由大量计算机科学家和技术人员组成的社群。理性主义者们相信,人类可以通过强化理性思维来解决各种问题,改善世界,追求更好的政治、经济和个人生活。他们经常进行冗长而深入的在线讨论,甚至将看似荒谬的结论认真对待,只要逻辑自洽。 这种对逻辑的极致追求,在人工智能研究领域产生了显著影响,尤其体现在对“人工智能安全”和“人工智能对齐”问题的关注上。 许多理性主义者担忧超级人工智能的出现,并试图确保其与人类价值观相符。

然而,这种对理性的极端追求,也孕育了其自身的扭曲。Ziz,这个邪教组织的核心人物,是一位来自阿拉斯加的计算机程序员,她对理性主义运动深感兴趣,并参与了相关的研讨会和讲座。然而,Ziz发展出了一套极端且危险的信仰体系。

Ziz自称“西斯族素食主义者”(Sith vegan),将动物生命与人类生命等同视之,认为工厂化养殖和肉食行为如同种族灭绝,并认为暴力是阻止这种“种族灭绝”的必要手段。 她还宣扬一种“抵抗即一切”的理念,认为可以通过无限期地抵抗来避免被捕和法律制裁。更令人不安的是,她发展出了一套基于“大脑半球”的道德等级制度,将追随者划分为“单善”(single good)和“双善”(double good),并以此巩固自身在群体中的领导地位。

Zizian的活动最终演变成了一系列暴力事件。他们曾封锁理性主义研讨会的入口,并与房东发生冲突,导致一人被武士刀刺伤。更令人震惊的是,在佛蒙特州发生的边境枪击案中,一名边境巡逻员丧生,而参与枪击案的两人与Zizian有着密切联系。 此外,还有多起谋杀案与Zizian成员有关联,这些事件的时间跨度长达数年,地点遍布美国东西海岸。

虽然这些暴力事件与Ziz的影响和煽动有着直接关联,但并非所有行为都是她直接下达的命令。更准确地说,Ziz通过营造一种道德和存在主义的紧迫感,以及对人工智能末日论的渲染,潜移默化地影响着她的追随者,最终导致了这些悲剧的发生。

值得注意的是,当前时代对人工智能的担忧,为Zizian的崛起提供了肥沃的土壤。媒体对人工智能潜在风险的夸大报道,以及对人工智能末日论的广泛传播,加剧了人们的焦虑,也为Zizian这种极端思想的传播创造了条件。

目前,Zizian组织的主要成员已被捕,等待审判。然而,这个故事的警示意义依然深刻。它提醒我们,即使是看似理性的追求,也可能走向极端,甚至酿成悲剧。 对人工智能的担忧固然重要,但我们更需要保持理性,避免被焦虑和恐惧所裹挟,从而做出错误的判断和选择。 Zizian的故事,是理性主义运动的一个警示,也是对我们这个时代普遍焦虑的一个深刻反思。

Chapters
This chapter delves into the origins of the Zizians, tracing their roots to the Rationalists, a movement centered around developing reasoning skills and discussing thought experiments. Max Reed explains the influence of rationalism in Silicon Valley and its connection to AI research.
  • The Rationalists are a community focused on enhancing reasoning skills.
  • Eliezer Yudkowsky is a prominent figure in the Rationalist community.
  • Rocco's Basilisk is a well-known thought experiment within the Rationalists.

Shownotes Transcript

Journalist Max Read explains how a bunch of Silicon Valley computer scientists spun into a cult accused of killings.

This episode was produced by Amanda Lewellyn with help from Travis Larchuk, edited by Amina Al-Sadi, fact-checked by Laura Bullard, engineered by Andrea Kristinsdottir and Patrick Boyd, and hosted by Noel King.

Transcript at vox.com/today-explained-podcast

Support Today, Explained by becoming a Vox Member today: http://www.vox.com/members

A mugshot of Jack 'Ziz' Lasota, leader of the Zizians, after her arrest in connection with the killing of a Border Patrol Officer in Vermont in January. Image courtesy of the Allegany, MD County Sheriff's Office.

Learn more about your ad choices. Visit podcastchoices.com/adchoices