操纵AI生成用于或虚假消息的图像或视频的深度伪制手艺，曾经惹起人们的关心。美国总统竞选初期，正在一段仿照时任美国总统拜登的深度伪制语音片段中，他告诉选平易近不要正在新罕布什尔州初选中投票。正在的竞选勾当中，工党正在其社交账号上发布了一段AI生成的否决党彼得·达顿跳舞的视频。

　　5。国际合做正在防备AI对人类平安发生负面影响方面至关主要，虽然AI带来挑和，但其帮帮也很大。

　　早正在客岁2月，布鲁金斯学会（美国出名智库）手艺立异核心高级研究员达雷尔·韦斯特就曾颁发提示，他称，“2024年的美国将会呈现人工智能（AI）生成的虚假消息海啸。我们已看到这种环境，且环境将会变得更糟。”AI参取选举，将对包罗美国、俄罗斯、印度等70多个国度和地域发生影响，笼盖跨越全球对折生齿。

　　一些选平易近认为，告白中利用的某些AI手艺“令人尴尬”，还有人提到，正在范畴，深度伪制的内容也有所添加，大大都人都无法识别AI生成的内容。

　　2024年，美国达沃斯世界经济论坛颁发《2024年全球风险演讲》，将AI生成的错误和虚假消息排正在天气变化、和平和经济疲软之前，列为全球十大风险之首。该演讲是对1400多名全球专家、政策制定者和行业带领者进行查询拜访后撰写的。世界经济论坛施行董事扎希迪暗示：“这些错误和虚假消息加快，将加剧以两极分化和不平安为特征的全球次序和经济的不确定性，带领人必需齐心合力应对这些挑和。”。

　　人工智能正正在深切人类世界的各个层面，也让“目睹不再为实”。目前，多个国度正正在思虑或已立法，规范人工智能正在勾当中的利用。

　　据全球时报动静，公司5月1日发布用人工智能玩：为何需要规范竞选中的“虚假图像”。文章指出，正在人工智能（AI）生成图像和视频的时代，目睹不再为实，家和专家正正在选平易近，不要等闲相信他们所看到的内容是实正在的。

　　AI成长虽然带来挑和，但将来对人类的帮帮也很大。人类刚进入AI时代，虽然AI激发不少平安担心，但也无须患上“AI惊骇症”，终究人类发现AI的素质是为了帮帮本人。

　　市社会科学院副研究员王鹏也曾指出，开辟出能无效识别和过滤AI深度制假内容的算法并不容易，需要大量的研发和持续的手艺更新。即便有了无效的手艺，若何确保其正在全球范畴内获得普遍使用和无效施行也是一个挑和。这需要、科技公司、法令机构和其他好处相关方的慎密合做。国际合做正在防备AI对人类平安发生负面影响方面至关主要。

　　然而，若何确保无效的手艺正在全球范畴内获得普遍使用和无效施行仍是一个挑和，科技公司、法令机构和其他好处相关方的慎密合做。