📢 转载信息
原文链接：https://www.bbc.com/news/articles/cn7emv83edjo?at_medium=RSS&at_campaign=rss
原文作者：BBC News
英国选举委员会（Electoral Commission）首次下令禁止使用人工智能（AI）生成的“深度伪造”（deepfake）视频作为竞选广告，这标志着英国在应对生成式AI技术对选举诚信影响方面迈出了重要一步。
为何发出首次禁令？
选举委员会已要求停止分发一则声称是针对保守党候选人罗布·菲尔（Rob Flello）的AI生成广告。该广告以虚假信息为基础，并利用AI技术模拟真实人物的形象和声音。
该委员会表示，他们有权对任何被发现旨在误导选民的竞选材料采取行动。
委员会主席西蒙·麦克唐纳（Simon McDowall Turner）在一份声明中表示：“我们非常认真地对待涉及AI生成内容的问题，特别是当这些内容被用于试图欺骗公众时。”
“我们已经行使了我们的权力，要求停止分发被认为是AI生成并具有误导性的竞选材料。”
尽管该委员会并未透露是谁制作了这段视频，但保守党表示，他们已就此事进行了报告。
日益增长的担忧
英国政府已对AI技术在竞选活动中的使用表达了担忧，并计划在今年晚些时候对相关法规进行修订，以应对迅速发展的技术。
目前，竞选规则主要侧重于“政治广告”——即在选举期间，由政党或候选人支付的广告——但对于AI生成内容的监管仍处于灰色地带。
选举委员会拥有权力，可以要求停止发布被视为虚假或误导性的竞选材料。然而，这通常是在选举日临近时才能采取的措施，因为调查需要时间。
本次的迅速行动表明了监管机构对日益增长的威胁的重视程度。
“我们认为，任何在竞选活动中使用AI生成内容来误导选民的尝试都是不可接受的，我们将继续密切关注事态发展，”麦克唐纳先生补充道。
人工智能生成的虚假内容对选举诚信构成了现实威胁。
深度伪造技术的风险
随着生成式AI工具（如Midjourney、Sora和各种深度伪造软件）变得越来越容易获取且更具说服力，公众对于哪些内容是真实的，哪些是合成的，其信任度正在下降。
上个月，一份由科技专家和政治家组成的联盟警告称，AI生成工具可能被用来“制造虚假的叙事”，从而在即将到来的大选中被用于“破坏公众对信息的信任”。
英国政府此前表示，它正在“积极研究”如何应对深度伪造内容，并计划在《选举法》中加入明确条款来规范AI在政治宣传中的使用。
此次禁令是监管机构首次明确使用现有权力，对一个具体的AI滥用案例采取了行动，向公众和政党发出了强烈的信号。
麦克唐纳先生总结说：“我们的首要任务是确保选举信息的完整性。任何试图利用新技术来误导选民的行为，都将受到我们的审查和制止。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区