#77 AI预测结果揭晓（6）｜行业可以自律吗？
32:59 Share

AI 预测结果揭晓 2024 年中复版专辑节目各位听众大家好欢迎收听由科技版版拍和 AIGC 开放社区联合出品的播客节目

我们其实在 2023 年的年底的第 24 期节目中当时我和人工智能也就是说当时比较领先的 GPT-4 我们一起做了一期节目节目中采用这种寻寻善用的方式一步步的对比了现在的 AI 的发展与当时上世纪 90 年代的互联网的发展历史

然后由我来问问题由 GPT-4 来回答那算是通过这种引导 AI 的方式完成了一次对于 2024 年的人工智能发展的一次预测

在那次预测中一共分为了 10 个方面从技术应用市场合规投资各个领域基本都覆盖到了如果大家感兴趣是如何预测的话可以返回去听一下那期人机对话的节目链接我会放在 show notes 里面在此新年交替之际我打算利用一个系列的节目来分别回顾一下当时的这些预测

节目时长或长或短有话就多说没什么进展就少说

即使对之前预测的一种回顾也算是对去年整个人工智能行业发展的一次总结这次节目中我们会对当时我们做的每个预测会打一个分数大概分为五个档次如果是完全满足打 10 分如果是大部分满足得 8 分如果是基本满足的话得 5 分如果少量满足得 3 分如果确实没有出现预测这种情况的现象的话我们就给 0 分

最后我们再做一个总体的打分总结再看看原来这次人工智能对自己也就是对人工智能预测自己的发展方向这项能力到底是怎么样的

现在已经到了 2025 年的 2 月份了我们 2024 年的回顾节目还没有完全的录完我们前面 5 期节目讨论完了我们之前做的 7 个预测那么今天我们想讨论的是第 8 个预测就是 AI 的行业组织成立来解决全球化推广中的资源分配和标准设定问题这个预测其实是来自于也是对比当时的 90 年代互联网的发展

其实背后有两个维度一个维度是说对于像人工智能的隐私安全伦理公平性那需要有这样的一个组织或者是国家通过法律政策或者组织协议的这种手段来去完成那另外一个维度我们想说的是在这种情况下必须有更好的国际合作的这样的一个方式来去解决这种全球均衡性发展的问题

由于 90 年代互联网当时形成了是以美国为首的这样的一个垄断后来再进行了一个全球化推广的这样的一种方式其实今天人工智能行业有类似的特征我们今天看到所有的最新的 AI 的技术都是在美国那边先去发生

而且我们看到当时互联网也出现了很多反垄断的一些官司也就是说在没有更好的管控之前大家只能通过法律手段来去解决所以当时的这种预测就是以此类推当时预测在 2024 年各国政府组织以及研究机构可能会以美国为首的或者几家这种头部的 AI 公司吧

成立一些人工智能的行业组织来解决全球化推广中的一些整个资源分配的标准设定的问题因为在 23 年底 24 年年初的时候确实我们也看到了一些这样的一个迹象可惜今天我们看到的情况确实和当年的互联网时代会大有不同也就是说我们今天没有看到更加权威的组织的成立也没有出现大规模更加有权威的那种标准和规范的出现

目前的整个市场还是处于一个你争我夺这种比较野蛮性的军备竞赛的这样的一个过程大家还没有人去顾及所谓的这些行业标准和规范虽然大家嘴里面谈的很多但事实上并没有真的在意这个内容一些行业组织或者联盟组织确实想做这方面的工作但可惜能力又不够强得不到太多的前沿的技术的支持和人才的支持

我想背后可能大概有三个原因第一还是一个大的环境和以前不同了就是今天的地缘政治和全球化的形式跟 90 年代是有很大的不同中国的崛起中美的脱钩俄乌战争中东的冲突等等的都造成了对今天的广泛的国际合作造成了很大的影响即使在美国内部我们看到其实各大 AI 公司的相互认同共识也并不一致这是第一点

第二点就是当时的互联网代表了各个易沟主体之间的一个互相的联通因为我们在没有互联网之前大家的协议通讯各种方式不同所以通过互联网来建立一个通用的底层的标准和规范

但是人工智能却是可以在一个自我封闭的情况下就是各家有各家大模型自己有自己的训练体系来完成自我进化也就不需要对于人工智能来讲它不需要一定在底层大家一个达成一个所谓的一个共识没有共识也可以各玩各的这是一个第二点就是 AI 和互联网还是有区别的从技术特征上来讲

第三就是人工智能自身本身它具有这种黑壳性不透明性以及技术的封闭导致了这个领域的专家也主要集中在几个头部的厂商中当然背后是说这些厂商更有钱了当然这些专家会去更好的厂商去服务也就是说我们所谓的这些组织中比如政府行业组织就没有类似的专家

如果我们想依赖一些外行人来给内行人制定标准和规范其实这个是不现实的所以总体来说通过以上三点总体来说我们可以看到各从各国家到各种组织现在可以说是雷声大雨点小各种会议公约也动作比较多但是真正有用的成果却是比较少的

所以这里我们还是要总结一下整个 2024 年的整个一些成果首先从立法的方面来看

那在 24 年的 8 月 1 号呢全球的第一部全面检管人工智能的法规就是欧盟的这个人工智能法案正式生效这算是第一部比较完整的这个人工智能法律吧这个也经历了很长的时间其实我们在第 37 期和 38 期两期节目中特别邀请嘉宾呢也解读了这部法律的一个整体的一个内容那最后发布出来的内容呢其实和当初我们解读内容基本是一致的哈

实际上在全球范围看 我们可以看到许多国家和地区都在努力在寻求人工智能技术和人类社会的最佳的一种新的相处模式我们需要在科技发展和安全风险之间要找到平衡我们国家在 23 年 7 月份就出台了正正是人工智能的服务管理暂停办法可算是非常早的 主要采用的是这种大模型或者 AI 产品备案登记的一个制度

截止到 24 年的年底差不多中国国家互联网新进化办公室依据的法案它背后已经备案的差不多有 250 多款生存人工智能产品形成了一个比较好的一个这样的氛围我们在第 58 期的节目中也专门聊过这个话题就是大模型和算法备案的内容这是欧洲和中国的情况

在新加坡 24 年的 5 月份生殖人工智能的治理模型框架也发布了它主要专注于生殖人工智能的一些特性重点强化人工智能可问责确保风险发生时能够为用户提供及时的救济的框架在 24 年的年底韩国的国民议会通过了人工智能发展与信任基础创建法

这个为人工智能就是发展电竞力的基础估计这个是在这个 25 年的这个一年后通过以后的一年后就 26 年才会生效那在去年的 4 月份就是日本政府也发布了所谓的商业人工智能指南的 1.0 主要倡导敏捷治理并且支持人工智能开发者遵循普遍的一些认可的人工智能的原则

那另外呢日本政府也宣布在比如说 25 年也会在国会议会上提出所谓的日本的人工智能法案所以这是一个在整个亚洲的各个国家的一些动作吧

我们可以看到比如说世界的领头羊比如美国美国并没有在整个联邦层面就有一个立法的动作但是在各个州大家以自己的方式在寻求一些人工智能的法案比如说在犹他州就通过了犹他州的人工智能政策法主要是明确了人工智能的定义使用范围要求人工智能的一些主体必须向用户披露人工智能的一些互动情况并且承担法律责任

并且违反了规定的公司面临着 2500 美元的罚款

像纽约州 科罗拉多 马里兰 弗吉尼亚各个州的立法也都在进行中但事实上并不是说美国各州的立法都是顺利的比如说在硅谷的所在地就是加州加州在 24 年的 8 月份经过了 12 轮的修正通过了新的所谓的叫做安全与可靠前沿人工智能的创新法案

叫做 SB1047 这样的一个法案那后来呢就移交州长签署不过在 11 的前夕吧加州州长以这种监管要基于技术发展和风险的实证风险监管不能离开场景或者不能仅仅因为大而监管的几个理由而否决了这个法案

可能之前我们为什么要讨论的这种法案特别多包括我们可以看到国内的民间的学术机构已经出现了所谓的人工智能示范法以及已经纳入国务院立法工作计划的人工智能法草案但是我可以从看到美国从否定 SB1047 的法案中我们也可以看到了很多在立法理念上的大家的不同并不是说一定要有一个这样的一个法案

因为背后有几个原因是说大家都会认同说法案的出台不能只是为公司的主体添加责任和义务主要让公司去履行这些义务

但是履行完以后也不能为公司的主体带来事前的免责或事后的豁免只是徒增这些企业的合规成本甚至可能在法案的遵循法律的过程中还会导致这种准备很多材料甚至导致这种商业的泄密从而影响了原始创新的保护

这是第一个大家的理解就是要保护创新还是说那第二个理解呢就是说大家目前看到虽然 AI 使用但是目前看到的风险这个问题或者事件并不多都是来自于一些对外的一些风险的所谓的预期就是我们可能觉得

AI 可能会带来这样的风险但并不是现在已经发生了所以从法律界来讲他们认为说过早的形成这种刚性的法律条款对于真正的 AI 实践的指导意义并不大反而你是限制了大家的这种思路和发展

这是第二点那第三呢就是也有一派认为呢说立法要基于场景那毕竟利用人工智能做这个技术假如你去做坏事那这些坏事呢它其实不用写在人工智能的立法里它其实写在其他法律里了比如说一些隐私保护欺诈等等的那其他法律是有规定的所以呢在年终的时候人工智能专家李飞飞也有持过类似的看法就是说现在更应该做的是说在各个垂直领域比如像医疗金融交通等各个行业的这个他们已经有的

监管框架里面或者法规里面去增加一些人工智能的通信然后去来更新他们而不是说我们超越这些所谓行业领域而单独为人工智能去设置法律所以就是通过以上三个点大家可以看到说即使已经有很多国家或者地区已经在去做人工智能立法但是对于立法这件事情来说各国家还是存在着很大的所谓的

争议的所以这个也是我们讲说在 2024 年大家在全球的这种其实在法律层面也没有达到一个很好的一个共识那说完立法的领域呢我们再说说整个行业的标准和自律的问题

那这个领域的发展呢就有点差强人意了和去年的整个预期也不太相符虽然我们看到组织很多这个会也很多宣言也很多但都比较是这种空虚的口号啊或者刚领性的这个原则性的指导性的这个但是对于实际的工作的指导意义并不太大而大家也没有强制执行的这种约束和要求啊

所以这样的话我们大致梳理一下 2024 年已经发生的一些相关组织的事件我们可以把它分成四类第一类我们认为是有些全球性的组织各种经济政治组织经济组织非常多比如像联合国经贺组织七国集团世贸组织等等这就属于全球性的第二类的是以国际性以科技组织为主的这种人工智能领域比如像 OSI 就是 open sourced

就是开源的组织这种就是以科技的领域的第三类就是各国家内部自己的成立的行业的组织第四就是在 2024 年召开的一些重要的全球性的人工智能大会所以这四个领域我们分别的可以帮助大家来总结一下

我们先说第一类就是这种全球性的组织比如联合国联合国在 3 月份就通过了一个大会主要是通过了一个决议叫做抓住安全可靠值得信赖的人工智能系统带来的机遇促进可持续发展这样一个决议它鼓励的是会员国在部署和使用人工智能系统之间要进行测试

那 7 月份呢联合国呢又通过了加强人工智能能力建设方面的国际合作的决议支持发展中国家有效公平切实的参与人工智能系统治理方面的国际进程的讨论确保其这个拥有权利那 9 月份呢联合国未来峰会通过了所谓的全球数字契约啊

那这个全球数字契约呢主要里边也谈到了加强人工智能治理造福人类的这样一个目标提出了建立人工智能国际科学小组发起人工智能治理全球对话等机制所以这是联合国在人工智能做的一些这个方面的工作那我们讲到这个经济合作发展组织我们说的这个经合组织哈

在 2019 年其实就通过了一系列所谓叫做 Value-based principles 就是基于价值观的一些原则并在 24 年的 5 月份更新了这份原则形成了一些值得信赖的 AI 的原则这里面就包括了包容性增长可持续发展和复制尊重法治人权与民主价值观透明性和可解释性文件性安全性和等等的这些内容

这是经合组织那七国集团组成 G7 在 23 年的年底达成了一份叫做人工智能风险监控框架的一个协议预计在 2025 年的 2 月份就会启动这个框架这个框架的目的就是要确保 AI 的安全使用并激励大型科技公司提高透明性向公众报告相关风险

这是 G7 世贸组织就是 WTO 在 24 年年底 11 月份的时候 WTO 在日内瓦发布了一份关于人工智能影响全球贸易的报告指出了 AI 在降低贸易成本推动相关产品和服务贸易方面有着增长的巨大的潜力同时呼吁国际社会加强对人工智能的监管

那包括像联合国工业发展组织哈 呃 也是说为了达成全球数字契约的这种呼吁哈促进工业部门的负责落地啊 可持续的包容性的应用人工智能成立要成立了全球的人工智能产业联盟 AMI Global 哈所以这些全球性的组织呢都在发起各样的活动啊 这是第一类

那第二类刚才我们讲了就是对于一些科技组织啊这他们的呃有没有一些实质性的进展啊比如说这个 OSI 就是这个我们讲的叫做开源的这个组织哈呃他其实发表的这个我们认为还是比较有实际意义的比如他在 24 年的 10 月 28 号在这个 2024 年的 all things open 啊大会上发布了全球首个开源人工智能的标准

也就是人工智能定义 OSAID 1.0 的标准 OSAID 的提供的框架我们可以看到业内可以对此进行一个公开的评估以验证说人工智能系统是否可以被视为一个开源的人工智能系统这个标准可以认为是开源领域发展的一个重要的里程碑而且得到了全球开源社区的广泛支持

有超过 25 个组织来共同的设计其中也包括一些大的公司比如说微软谷歌亚马逊 Meta 英特尔三星 Mozella 基金会 Linux 基金会 Apache 软件基金会等等的这个标准可以帮助一个检验证一个人工智能系统是否被认为是一个开源的 AI 而且根据 OS

AID 的这样的一个标准的话开源人工智能系统应该赋予用户以下的自由比如说将系统用于任何目的而无需请求许可这是第一点第二研究系统如何工作并检查其内部的组件第三为了任何目的的修改系统可以包括改变区域输出并第四是可以和他人共享这个系统出于各种目的的使用都可以这是我们认为

在这个标准中他提到的四点说可以认为是一个让用户真正自由使用的这样的一个开源系统这是我们讲的这个开源组织方面的一些推进那比如说像这种比较著名的像电气电子工程协会就 IEEIEE 呢它自己有一个叫做 CIS 就是说这样的一个专业组织呢主要是在推进

计算智能的一些伦理和应用它主要是它为研究人员从业者学生提供一个交流思想和这种想法合作的一个平台我们可以看到 AI 组织合作组织比如说在 16 年的 9 月份其实谷歌 Facebook 当时叫 Facebook 现在叫 MetaIBM 亚马逊微软共同成立了一家非营利组织叫做 AI 合作组织

这个简称为 Partnership on AI 这是一个非盈利组织它主要是致力于负责任的 AI 的技术的发展和使用它汇集了各种这样的公司 学术机构和民间的组织包括很多的成员来共同的研究 建立最佳实践来推动 AI 领域的发展 Partnership on AI 这个组织特别关注于确保 AI 系统的公平性 透明性和可问则性

并考虑 AI 社会和经济的影响所以我们看到其实各种组织不管是全球性的组织还有专业性的组织但是大家都在遵循着类似的一些原则第三类就是我们谈到各个国家的行业的组织比如像美国国家标准与技术研究院就是 NSIT

NISIT 是美国国家的标准化的组织它其实就是要主要推进去建立 AI 系统的一些标准和组织的一些工作还有美国还有叫人工智能促进协会叫 AAAIAI 前身是美国人工智能协会它其实在 1979 年就创立了它也是个非盈利的科学组织

它也主要就是去促进这种智能行为背后的一些机制以及说我们这个机器在体现的这种科学的一些理解并且致力于推进说负责任的 AI 的使用他们为组织的一些会议出版一些期刊为研究人员教育者或指定者提供一些资源来合作

这是两个还有一个叫做北美人工智能协会就是 NAAIA 来推进 AI 的研究的一些工作主要是也是通过一些为专业人士合作所以我们看到在人工智能爆发之后在美国国内的有主要的这样的一个三个组织

在中国主要有一个叫做中国人工智能协会叫 CAAI 这个组织成立于 1981 年是由中国科学技术协会主管主要也是推动人工智能科学技术的一个学术型的社会组织还组织一些会议出版一些期刊设立一些奖项主要来促进国内的学术的一个交流和合作

还有一个组织呢叫做中国新一代人工智能产业创新发展战略联盟 AITSA 啊这个是主要是在 2017 年 AVS 产业技术创新联盟的时候基础上呢有 200 家的这个顶尖的企业高校科研院所资本机构啊等等组成的这样的一个联盟其实我们在国内可以看到各种民间的这种或者高校组织的人工智能的机构也很多哈

所以这是中国的情况那在欧盟来看呢我们可以看到由欧洲来讲有他的人工智能的联盟 European AI Alliance

主要是由欧盟委员会发起的这样一个创意主要是建立一个开放政策的一个对话平台吧讨论人工智能的一些机遇挑战从 2018 年这个组织成立以来呢这个组织就已经吸引了超过 6000 名的一些相关的组织和人员一些参与进行一些定期的活动和公众咨询在线交流吧

伴随着整个人工智能法案推出的欧洲又成立了欧洲人工智能办公室 European AI Office 它是欧盟的一个 AI 的专业的中心负责实施落地人工智能法案特别是在通用人工智能方面来促进可行 AI 的发展以及格局合作它主要是来负责欧盟的整个的 AI 的整个的运作所以这是欧洲的情况

这我们第三类就帮大家总结了第四类我们可以看到 24 年也举办了很多所谓重要的一些会议会议会有什么成果比较著名的是所谓的首尔峰会因为我们大家知道在 23 年在英国就开了一个叫布莱切利峰会在 23 年那次布莱切利峰会的时候我们可以看到其实成效还是非常好的所以当时称之为所谓叫布莱切利效应

这个也为 24 年的首尔峰会的一个广泛的国际合作奠定了一个基础所以在 24 年的 5 月份由韩国英国共同主办的人工智能峰会由英美的 11 个国家签署了所谓叫做关于安全创新和包容性人工智能的首尔宣言所以简称首尔宣言

然后在部长级的会议上签署了首尔人工智能的安全科学国际合作一项声明可以叫做首尔声明所以提出了安全创新包容是全球人工智能治理结构的首要议题

16 家的顶尖的科技公司企业还签署了前沿人工智能的安全承诺承诺公开透明的来报告其前沿人工智能的风险的管理方法所以相当于首尔峰会是原来布莱切利峰会的一个延续和加强但是从大的举措来讲好像也没有一些更新的内容提出来所以这是首尔峰会

那还有一个呢就是在 2024 年中国举办了所谓世界人工智能大会这个相当于是我们在 7 月份由外交部国家发改委教育部科技部工业新华部国家网信办中国科学院中国科协和上海市政府来协办的

那会议上主要发表了人工智能全球治理的这个上海宣言呼吁确保人工智能发展过程中的一些安全性可靠性可公平性也算是一个在人工智能治理领域的一些重要的一些原则我们可以看到所以就是东方和西方大家双方各自在来争夺着这个所谓人工智能的一个话语权

那是在 11 月份的时候呢中国的乌镇还举办了一个世界的互联网大会里边的还专门成立了叫人工智能专业委员会来常态化的推进人工智能标准化和产业发展和安全治理的工作所以我们看到其实传统的这些组织或者我们讲互联网的组织也逐步在向这个人工智能去转向

比如在一些双边合作上也有些成效比如在 24 年的 5 月份中国法国两个国家就发布了中华人民共和国和法兰西共和国关于人工智能和全球治理的联合声明主要是谈到了如何共同去促进安全可靠的可信的人工智能系统一些提到了坚持智能向善的一些宗旨要增强一些全面的和包容性的对话充分来挖掘人工智能的潜力并降低它的风险

所以这样的话我们就把这个四类的我们谈到的这样内容就总结了一下或者汇总了一下帮助大家这个包括全球性的组织各个国家的组织然后专业性的组织包括一些国际上的一些大会最后我们再总结一下我们看到了这么多的专业组织全球化的组织一年下来大大小小也开了不少的会议大家感觉到印象也不是太深刻

要不是说这个会议本身没什么成果要不就是成果太虚了只是谈一些所谓什么 AI 可信任安全为人类造福等等各种各样高大上的这些话题或者说我们就避开现实不谈就谈一些所谓未来 AI 世界的一些畅想这种畅想的完完也脱离真正 AI 实际的技术或前沿技术的一个实际情况

所以我们可以看到其实有时候召集很多人所谓开会发出来的声音或者一个组织联盟外的声音甚至还不如某大公司的 CEO 的一条 X 就像 OpenAI,Some Ultimate 一条 X 可能会比一个会议的声音还要响亮的或者传播的更广泛

再加上整个社交媒体的这种各种的鱼目混杂所以我们可以看到整个行业的声音变得更加的杂乱所以在整个巨大的利益面前或者人工智能这项极具潜力的应用之前我们目前来说真的很难谈得上所谓的行业自律就像我们节目一开始所谈到的我们一些真正的专家或者领域的这些领先的人士

他们不会把自己的行业秘密或自己公司的秘密拿到这个会上来去分享大家还是处于一种比较保守的一种状态所以反馈这一点我们当初在做预测的时候我们是把人工智能发展对比了互联网但是对于整个行业自律或者我们讲联盟这件事情来讲呢我们今天的人工智能更像是各个国家在研发原子弹哈

可能真的到了大家见到了 AI 类似原子弹那样破坏性的威力之后也许才能有机会真正坐下来的大家好好来谈谈所谓的合作问题那今天我们没有看到这样的情况之前那很多的事情都是仍然是虚的还是虚无缥缈的所以大家还是伏在空中的

所以我们对于第八项预测就是 AI 的行业的组织的成立来解决全球化的推广中的资源分配和共享标准的设定的问题应该说是没有达到预期的或者说我们只能说很少很少的满足了

所以对于今天这样一个已经割裂的世界技术的壁垒产业的壁垒国家和地区的壁垒相互之间的这个鸿沟我们看在短期内还是很难去逾越的和打破的这是我们这期节目想得到的一个结论好本期节目就到这里这是我们对于第八个预测的总结

如果您喜欢我们的节目内容也希望您能订阅点赞和转发我们下期节目再见

再到一次清澈的河能够牵手摘下一次自己种下的光说是你选择躲在山里看烟火守着那烂泥土不再借世人的手替我开脱孤独也不耐住寂寞怎么那么像我

再倒一次请求的河能够牵手斩下彼此自己种下的果他们说他们说我是你选择的躲在山里看守着那蓝一朵不再借世人的手替我开一朵遍野的花骨朵

苟耐住寂寞 苟那麽想我躲在上岸看煙火守著那藍衣托不再見世人的手替我開脫遍野的花孤多苟耐住寂寞 苟那麽想我