Powerful A.I. By 2026? + Uber's C.E.O. on the Robotaxi Future + Casey's TikTok Test
2024/10/18
Hard Fork
A
Andrea Barnes
C
Casey Newton
D
Dara Khosrowshahi
K
Kevin Russo
Anthropic 公司首席执行官 Dario Amodei 在一篇长文中预测，强大的 AI 可能在 2026 年到来，并阐述了 AI 如何在医疗保健、精神健康和气候变化等领域带来积极影响。他认为，AI 的发展既要关注其潜在风险，也要对 AI 的未来抱有积极的愿景。他还提出了“协约战略”，建议民主国家合作，控制 AI 技术的供应链，以防止 AI 被滥用。
Casey Newton 对 Amodei 的观点表示赞同，并认为 Anthropic 公司的“负责任的扩展策略”是 AI 安全领域的重要尝试。他认为，AI 的快速发展对人们的日常生活和职业规划带来了不确定性，但也带来了治愈疾病和改善人类福祉的巨大潜力。
Kevin Russo 则对 Amodei 的“协约战略”提出了质疑，并引用了 Max Tegmark 的观点，认为这可能会引发 AI 军备竞赛，增加风险。他同时指出，AI 能力的提升与 AI 安全的提升是相互关联的，为了发展 AI 安全，必须发展 AI 能力。
Max Tegmark 批评 Dario Amodei 的“协约战略”，认为这会引发 AI 军备竞赛，增加风险，并认为与其专注于控制 AI，不如专注于如何引导 AI 的发展方向。
Deep Dive
Anthropic, una empresa de IA, ha hecho que Silicon Valley reconsidere el plazo para la inteligencia artificial general. Su director ejecutivo, Dario Amodei, presentó una visión de cómo la IA podría ayudar a curar el cáncer, las enfermedades mentales y mitigar el cambio climático en un futuro próximo. Consideramos sus afirmaciones más sorprendentes y lo que esto significa para la aceleración de la tecnología.
- Dario Amodei, director ejecutivo de Anthropic, cree que la IA poderosa podría llegar tan pronto como en 2026.
- La IA poderosa se define como una IA más inteligente que un premio Nobel en cualquier campo.
- Amodei imagina un "país de genios" en un centro de datos que acelera el progreso científico.
- Amodei propone una estrategia de "encendido" para las democracias a fin de asegurar la cadena de suministro de IA y evitar que regímenes autoritarios accedan a ella.
- Anthropic publicó una política de escalamiento responsable que describe las medidas de seguridad para los modelos de IA que pueden realizar su propia investigación y desarrollo de IA o ayudar en la creación de armas.
- Amodei cree que la IA puede curar todas las enfermedades infecciosas y la mayoría de los tipos de cáncer, así como mejorar los tratamientos para la salud mental, para 2036.
Shownotes Transcript