cover of episode UK’s internet watchdog finalizes first set of rules for Online Safety law

UK’s internet watchdog finalizes first set of rules for Online Safety law

2024/12/17
logo of podcast TechCrunch Industry News

TechCrunch Industry News

Topics
Ofcom: 英国网络安全法首套最终指导方针发布,标志着在线有害内容法首个合规期限的开始。该法案旨在保护用户免受各种非法内容的侵害,包括恐怖主义、仇恨言论、儿童性虐待和剥削以及欺诈和金融犯罪等。超过10万家科技公司可能受该法案的约束,不遵守规定将面临巨额罚款。该法案并非“一刀切”,对规模更大的服务和平台的义务通常更多。所有服务提供商都必须具备内容审核系统、用户举报机制、清晰的服务条款以及删除特定组织账户的功能等。 对于大型平台,可能需要进行更大的运营变革以避免违反法律义务,例如改变算法的工作方式,删除非法内容,保护儿童账户隐私等。该法律还引入了对高级管理人员的刑事责任,这意味着科技公司首席执行官可能因某些类型的违规行为而承担个人责任。Ofcom 将继续审查风险,并可能进一步发展对服务提供商的要求,以应对科技发展,例如生成式人工智能的兴起。Ofcom 还计划制定危机应对方案,例如封锁分享儿童性虐待材料用户的账户,并指导如何利用人工智能解决非法伤害问题。 Melanie Dawes: 科技公司需要改变算法的工作方式,删除非法内容,并保护儿童账户的隐私。Ofcom 将在1月份提出年龄检查要求,并在4月份最终确定更广泛的儿童保护规则,这将涉及色情内容、自杀和自残材料以及暴力内容等。

Deep Dive

Key Insights

What is the first compliance deadline for the UK's Online Safety Act?

The first compliance deadline for the UK's Online Safety Act is March 16, 2025, with safety measures required to be implemented by March 17, 2025.

What are the potential penalties for non-compliance with the Online Safety Act?

Non-compliance with the Online Safety Act risks fines of up to 10% of global annual turnover or up to £18 million, whichever is greater.

How many tech firms could be affected by the Online Safety Act?

More than 100,000 tech firms could be in scope of the Online Safety Act, ranging from large tech companies to very small service providers.

What specific illegal content types does the Online Safety Act address?

The Online Safety Act addresses over 130 priority offenses, including terrorism, hate speech, child sexual abuse and exploitation, and fraud and financial offenses.

What changes are tech companies required to make under the Online Safety Act?

Tech companies must change how algorithms work to prevent illegal content like terrorism, hate speech, and intimate image abuse from appearing in feeds. They must also ensure swift takedown of illegal content and set children's accounts to private to prevent contact from strangers.

What additional measures is Ofcom planning for child safety?

Ofcom plans to introduce requirements for age checks in January and finalize rules on wider protections for children in April, addressing pornography, suicide and self-harm material, and violent content.

What role does criminal liability play in enforcing the Online Safety Act?

The Online Safety Act introduces criminal liability for senior executives in certain circumstances, meaning tech CEOs could be held personally accountable for some types of noncompliance.

How does the Online Safety Act apply to smaller, lower-risk services?

Smaller, lower-risk services are not exempt from obligations and must comply with requirements such as having a content moderation system, mechanisms for user complaints, clear terms of service, and removing accounts of prescribed organizations.

What future measures is Ofcom considering in response to tech developments?

Ofcom is considering further measures to address risks from tech developments like generative AI, including crisis response protocols, blocking accounts sharing child sexual abuse material, and using AI to tackle illegal harms.

Shownotes Transcript

这是TechCrunch。本期节目由Factor赞助播出。

注意到白天变短了,但你的待办事项清单没有变短吗?这里有一个技巧:Factor。从早餐到晚餐,以及两者之间的任何食物,Factor都提供简单、营养的选择,让你保持活力,感觉最佳。我的Factor盒子正在路上,它来得太及时了。我太兴奋了,因为你可以从六种菜单偏好中选择,以帮助你控制卡路里,最大限度地摄入蛋白质,或避免肉类,或者只是吃均衡的饮食。

无论你喜欢常规还是喜欢变化,Factor都能满足你,每周提供35种不同的美味佳肴,以及60多种额外的便利选择,你可以添加到你的盒子里,例如酮症饼干、鲜榨果汁和冰沙。

不要让白天变短减缓你的速度。使用美国排名第一的即食送餐服务保持活力。前往factormeals.com/50TCIndustry,使用代码50TCIndustry即可享受首个盒子50%的折扣以及免费送货。代码是50TCIndustry,网址是factormeals.com/50TCIndustry,即可享受首个盒子50%的折扣以及免费送货(在您的订阅有效期内)。

周一,英国互联网监管机构Ofcom发布了首套针对《在线安全法》所涵盖的在线服务提供商的最终指南。这为这项庞大的网络有害信息法的首个合规期限启动了倒计时,监管机构预计该期限将在三个月后生效。

在夏季发生的骚乱被广泛认为是由社交媒体活动煽动之后,Ofcom一直面临着加快实施在线安全制度的压力,尽管它只是遵循立法者制定的程序,这要求它就最终合规措施进行协商并获得议会的批准。

Ofcom在一份新闻稿中写道,关于非法有害行为准则和指南的这一决定标志着一个重要的里程碑,在线提供商现在被法律要求保护其用户免受非法伤害。提供商现在有责任评估其服务中非法伤害的风险

截止日期为2025年3月16日。如果准则在2025年3月17日完成议会程序,提供商将需要采取准则中规定的安全措施,或采取其他有效措施来保护用户免受非法内容和活动的侵害。它补充说,如果提供商不迅速采取行动解决其服务中的风险,我们将准备好采取执法行动。

据Ofcom称,超过10万家科技公司可能属于该法案保护用户免受各种非法内容类型侵害的义务范围。关于该法案规定的130多项优先违法行为,涵盖恐怖主义、仇恨言论、儿童性虐待和剥削以及欺诈和金融犯罪等领域。

不遵守规定将面临高达全球年营业额10%或高达1800万英镑的罚款,以较高者为准。适用范围内的公司从科技巨头到非常小的服务提供商,受影响的行业包括社交媒体、约会、游戏、搜索和色情。该法案中的义务适用于与英国有联系的服务提供商,无论其位于世界何处。

Ofcom写道,受监管的在线服务数量可能超过10万家,范围从世界上一些最大的科技公司到非常小的服务。这些准则和指南是在Ofcom与之进行协商之后制定的,该协商考察了研究

并收集了利益相关者的意见,以帮助制定这些规则,自该立法去年秋天通过议会并于2023年10月成为法律以来。监管机构已经概述了用户对用户服务和搜索服务减少与非法内容相关的风险的措施。关于风险评估、记录保存和审查的指南总结在一个官方文件中,该文件链接在本文章的文本版本中。

Ofcom还发布了一份摘要,涵盖了今天政策声明中的每一章。英国法律采用的方法与“一刀切”的方法相反,通常对大型服务和平台施加更多义务,因为这些服务和平台可能出现多种风险,而小型服务和平台的风险较少。

然而,小型、低风险服务也不会免除义务。事实上,许多要求适用于所有服务,例如拥有一个内容审核系统,允许快速删除非法内容;拥有用户提交内容投诉的机制;拥有清晰易懂的服务条款;删除规定的组织的帐户等等。

尽管许多这些全面措施都是主流服务至少可能已经提供的功能。但可以公平地说,每一家在英国提供用户对用户服务或搜索服务的科技公司都需要评估这项法律如何适用于他们的业务——

至少,如果不是为了进行运营修订以解决具体的监管风险领域。对于以参与度为中心的商业模式的大型平台,其将用户生成内容货币化的能力与严格控制人们的注意力联系在一起,可能需要进行更大的运营变革,以避免违反法律保护用户免受无数危害的义务。

推动变革的一个关键手段是法律在某些情况下引入了对高级管理人员的刑事责任,这意味着科技公司首席执行官可能会对某些类型的违规行为承担个人责任。

周一上午,Ofcom首席执行官梅拉妮·道斯在接受英国广播公司第四电台《今日》节目的采访时表示,2025年将最终见证主要科技平台运营方式的重大变化。她说:“我们今天宣布的是一个重要的时刻,实际上,对于在线安全来说,因为三个月后,科技公司将需要开始采取适当的行动。”他们需要改变什么?他们必须改变算法的工作方式。他们必须测试它们,以便恐怖主义和……

以及仇恨、亲密图像滥用等非法内容实际上不会出现在我们的信息流中。然后,如果有些东西漏网了,他们就必须把它删除。对于儿童,我们希望他们的帐户设置为私有,这样他们就不会被陌生人联系到,”她补充道。

也就是说,Ofcom的政策声明只是其执行法律要求的开始,监管机构仍在制定与法律其他方面相关的进一步措施和义务,包括道斯所说的更广泛的儿童保护措施,她说这些措施将在新年推出。因此,家长们一直要求强制实施的对平台进行的更重要的与儿童安全相关的更改可能要到今年晚些时候才会生效。

道斯说:“在1月份,我们将提出我们对年龄检查的要求,以便我们知道孩子们在哪里。”然后在4月份,我们将最终确定我们对儿童更广泛保护的规则。这将涉及色情内容、自杀和自残材料、暴力内容,以及这些内容不会像现在这样普遍地被提供给孩子们,因为这些内容在今天确实是有害的。

Ofcom的摘要文件还指出,可能需要进一步措施来跟上技术发展,例如生成式人工智能的兴起,这表明它将继续审查风险,并可能进一步发展对服务提供商的要求。监管机构还计划制定针对紧急事件(例如去年夏天的骚乱)的危机应对方案,以及封锁分享儿童性虐待材料(CSAM)人员帐户的提案,以及使用人工智能解决非法危害的指南。