cover of episode 27. 英文播客:和深度学习奠基人聊聊大脑、模型和人类的爱

27. 英文播客:和深度学习奠基人聊聊大脑、模型和人类的爱

2023/6/2
logo of podcast 张小珺Jùn|商业访谈录

张小珺Jùn|商业访谈录

AI Deep Dive AI Chapters Transcript
People
特伦斯·谢诺夫斯基
Topics
谢诺夫斯基从个人求学经历和研究历程出发,阐述了深度学习的发展脉络,特别是与杰弗里·辛顿合作开发玻尔兹曼机的意义。他认为,玻尔兹曼机证明了多层感知器学习的可能性,并为深度学习的发展奠定了基础。他还谈到了深度学习与连接主义的关系,以及与符号主义的根本区别在于对世界复杂性的理解。他认为,深度学习通过规模化计算,能够吸收世界的高度复杂性,解决早期人工智能方法难以解决的难题。 谢诺夫斯基还回顾了与Marvin Minsky的论战,指出Minsky的符号主义方法的局限性,以及其对神经网络领域的负面影响。他认为,大型语言模型的出现代表着深度学习领域的新范式,其成功源于自我监督学习和规模化计算。大型语言模型的出现也挑战了乔姆斯基关于语言学习的理论。 谢诺夫斯基对大型语言模型的未来发展方向进行了展望,他认为,大型语言模型未来可以加入更多大脑的功能模块,例如长期记忆和情感模块。他还讨论了人工智能的潜在风险和监管问题,他认为,人工智能需要监管,就像其他技术一样,这需要持续的测试和改进。他认为,每个公司都将构建自己的专用模型,以避免数据泄露和依赖云服务。 最后,谢诺夫斯基表达了他对人工智能未来发展的乐观态度,他认为,人工智能将彻底改变各个领域,例如教育领域。但他同时也强调了谨慎和监管的重要性,认为人类正处于一个新的时代,一切都会发生改变。 张小珺作为主持人,引导谢诺夫斯基对深度学习、人工智能等话题进行深入探讨,并就相关问题进行提问,例如大型语言模型的智能性、人工智能的潜在风险以及未来发展方向等。

Deep Dive

Chapters
本期节目采访了深度学习的奠基人之一特伦斯·谢诺夫斯基,探讨了他对深度学习、大脑与AI关系、大语言模型等话题的看法。谢诺夫斯基回顾了与杰弗里·辛顿合作研发玻尔兹曼机的经历,以及深度学习领域早期发展中面临的挑战和机遇。
  • 谢诺夫斯基是深度学习的奠基人之一,也是美国四院院士
  • 他与杰弗里·辛顿合作研发了玻尔兹曼机
  • 深度学习早期发展面临的挑战和机遇

Shownotes Transcript

特伦斯·谢诺夫斯基(Terrence Sejnowski)是杰弗里·辛顿(Geoffrey Hinton)之外,另一位深度学习奠基人、先驱人物。

上世纪80年代,在深度学习经历了漫长的寒潮与黯淡后,它的出现为极少数相信“连接主义”、“神经网络”和“深度学习”的研究人员,带来一丝曙光。

“我们就是AI的莱特兄弟。”谢诺夫斯基说。

在很长一段时间,深度学习都不是人工智能主流学派。彼时的统治者是MIT人工智能实验室的马文·明斯基(Marvin Minsky),他曾尖锐指出深度学习的重大缺陷,并围绕自己对人工智能的见解构建了一套体系。绝大部分科学家都是他的追随者,信奉“符号主义”。

这是势力悬殊的两个学派。“符号主义”是基于逻辑推理和编程规则的学派;“连接主义”则更像是逆向工程大脑,通过模拟神经元之间的连接和权重调整来处理信息。

后来,辛顿成为AI教父、深度学习之父,以4400万美金将自己的公司卖给Google后出任Google科学家,他的学生IIya Sutskever参与创立了如今炙手可热的OpenAI。

谢诺夫斯基则是美国四院院士,也是全美在世仅三位的四院院士之一。他有一档知名的慕课《学习如何学习》(Learning How To Learn)。

对话中,他谈到神秘莫测的大脑、AI派系对决颇有冲击力的一幕、人工智能的潜在危险,以及大语言模型的未来演进方向等话题。

他认为,给AI注入情感要比加入语言更容易,未来每家公司都会建立自己的模型。

如果你对深度学习、AI很感兴趣,欢迎参考本期节目。

中文全文翻译见:《对话深度学习奠基人谢诺夫斯基:穿过这扇门,再也不会一样了》) 给对深度学习感兴趣的听众朋友们推荐两本书:

《深度学习》(The Deep Learning Revolution),作者是本集嘉宾,这本书在全球销量超过300万

《深度学习革命》(Genius Makers),作者是《连线》和《纽约时报》的记者Cade Metz

【更多信息】

本集首发于腾讯新闻,点击前往文字版) & 音频版)

联络我们:微博@张小珺-Benita)