南非****家西亚布埃拉·曼德拉警告说 ，人工智能生成的深度伪造可能会在非洲种族紧张地区引发内战或种族灭绝——规模超过20世纪90年代卢旺达发生的大屠杀。
一段时间以来，网络安全专家一直在警告企业和政府 ，不良行为者使用智能技术编辑声音、面部和数字操纵媒体 ，使其看起来像是有人说了或做了他们没有做的事情 。
然而，与 科技资讯 在技术烧烤的一个小组讨论了媒体和技术在****中的作用后 ，曼德拉——他的曾祖父是反种族隔离活动家和南非总统纳尔逊·曼德拉——警告说 ，社交媒体上深度伪造的声音和图像传播的虚假信息可能会对非洲一些地区产生灾难性影响 。
他说：“深度伪造传播的危险之处在于，它们不容易追踪 ，因为一旦它进入WhatsApp ，它就会被转发给尽可能多的人，也不容易追踪原始作者是谁。 ”
“想想它可能造成的影响和损害。你可以在一瞬间召集一个特定的族群攻击另一个族群 ， ”他补充道 。
曼德拉为加拿大人权记者组织（JHR）培训非洲各地的当地记者报道人权问题 ，他比较了数字虚假信息可能对90年代中期卢旺达对图西人的种族灭绝造成的潜在损害 。
1994年，胡图族和图西族之间长期存在的种族紧张局势爆发 ，邻居之间反目成仇 ，导致在几个月内屠杀了1m多人。
在屠杀期间，一个支持种族灭绝的广播电台在煽动杀戮和剥夺图西人的人性方面发挥了重要作用，经常称他们为“蟑螂” 。
曼德拉警告说：“在卢旺达 ，他们使用无线电下令发动攻击——现在他们可以使用WhatsApp 、Facebook 、Instagram、YouTube 。”
“它可能引发一场内战。在短短100天内 ，卢旺达就有近100万人丧生——那是1994年 。我的意思是，29年后 ，想象一下 ，凭借我们拥有的技术，如果我们不知道如何监管 ，它可能会被武器化 ，成为团结人们相互对抗的工具 。 ”
作为JHR培训师，曼德拉教授冲突地区和不稳定非洲国家的记者如何处理虚假信息和报道人权问题 ，重点是妇女和女孩的权利。
最近引发人工智能风险警告的深度伪造图像包括4月份唐纳德特朗普的假逮捕 。
与此同时 ，在英国，选举委员会监管主任路易斯·爱德华兹警告说 ，深度伪造可能被用来影响选举 。
她的担忧部分是由5月份的土耳其选举引发的 ，当时反对派候选人凯末尔·基利达尔奥卢指责俄罗斯在社交媒体上传播深度伪造和诽谤性材料来影响选举结果。
