无论选民说何种语言，AI生成的网络虚拟人物都可以直接叫出你的名字。
专家们担心在这个假信息泛滥的国家里，AI工具极有可能被误用。
01
印度总理纳伦德拉·莫迪用AI生成竞选视频拉选票
想要一窥人工智能是如何在大选中发挥作用的，必须看向全球最大的民主国家——印度，4月19日正是拉选票的日子。
AI生成了一段印度总理纳伦德拉 · 莫迪的高度个性化视频，并通过社交软件WhatsApp传递给了印度近10亿选民，说明了AI拉票的可能性。这段演示视频的源头尚不明确，但视频中莫迪竟然可以对观看视频的用户直呼其名。
但视频仍有瑕疵。视频里的莫迪似乎戴了两副眼镜，也有部分内容非常模糊。
02
技术滥用、虚假信息，AI世界是否成为法外之地？
莫迪所在的印度人民党工作人员上行下效，使用AI生成的视频在WhatsApp上向选民拉票，特别针对受益于政府优惠政策的选民，要求他们给自己的政党投票。
这些视频可自动生成几十种印度本土语言，通过AI技术可以用政党领导者的声音直接给选民打电话，寻求他们的支持。
相比于传统的竞选手段，如此大范围的深入基层选民竟节省了大量的时间和资金，因此也极有可能成为未来竞选的重要工具。科学技术正在侵入政治领域，却鲜有预防措施避免技术的滥用。
个性化视频和聊天内容看似无害，但专家担心随着技术的发展和推广，选民们也将越来越难于鉴别信息的真假。
总部设在新德里的宣传机构互联网自由基金会执行董事Prateek Waghre称：“今年的AI世界就是无法无天的西部荒野”。他认为AI技术正在进入早已充斥着虚假信息的媒体世界。
放眼全球，选举活动正在成为AI繁荣发展的试验场。新罕布什尔初选之时，选民们接到了自动语音电话让他们不要投票，而来电声音像极了美国总统拜登。
在印度，莫迪的印度人民党和反对党印度国民大会党相互指责对方在网络上传播深度伪造的选举相关内容。
03
面部数据采集，模型训练，一天1万多个视频的产量，AI初创公司是否在助纣为虐？
印度这场新战斗的一个前线站点就在印度西部沙漠之邦的拉贾斯坦。在一条满是尘土的背街旁的居民楼一楼，31岁的Divyendra Singh Jadoun从大学辍学，开创了一家AI公司“The Indian Deepfaker”。
这家初创公司共有9人，他们用AI 生成宝莱坞男女明星视频，今年年初，各个政党和政党领袖们开始让他们制作虚假视频，Jadoun说他收到了200单生意并同意制作其中的14单。
其中就有一单是印度人民党33岁的Shakti Singh Rathore，他的工作是让更多的人支持莫迪的方针政策，为此他决定用AI在互联网生成一个虚拟的自己。
Rathore坐在The Indian Deepfaker公司办公室的摄像头前，准备生成数字化的自己，他说：“AI技术非常棒，这是技术发展的必然，没有这种技术我怎么可能在这么短的时间内，向更多的人传播莫迪的政策。”
他们首先从录制的视频每一帧里抽取Rathore的脸部画面。
然后收集他的面部特征，包括面部和唇部的大小以及双眼凝视的相关数据。
Jadoun说他们将采集到的数据输入到AI模型，让AI学习数据并预测面部微表情变化。“需要一直运行程序，微调面部表情，直到满意为止。”
此外，“克隆算法”程序可以分析录音，学习声音的高低起伏和音调变化。Jadoun说他们通常需要6到8个小时的时间调整面部表情和唇部直到画面与声音同步。剩余的工作基本都是机器自动完成。
在一段演示视频中，这个团队只用了4分钟就生成了大约20份个性化问候视频。
Jadoun说他的团队一天之内最多可以生成10000个视频。对于那些时间紧任务重的工作，他们会租用GPU。
生成式人工智能还可以消除语言障碍，这对于一个多语言的国家尤其重要。人工智能生成的Rathore形象通过计算机处理可以用方言与印度各个角落的人沟通交流，即便是最偏远的地区也不例外。
各政党不仅给选民发信息，还通过克隆声音直接与选民打招呼，这一切都归功于类似ChatGPT一样的聊天机器人。
04
当总理喊出你的名字，对你表示问候，说出你的困难时，你是否会因为感动而投票？
过去的政党代表给选民打电话时，选民们通常会直接挂断电话，Rathore说：“如今因为当地政党代表可以直接喊出选民的名字，就可以吸引他们的注意力。”
在与选民交流的过程中，聊天机器人会问及当地政府为初创企业提供免费用电或资金项目的情况，Rathore表示所有聊天均被录像并转写，用于质量控制和人工智能训练。
Rathore称自己已经为此花了大约24000美元，通过视频信息和电话与120万人沟通交流，了解了哪些人不接视频或电话。他称这是印度人民党未来工作的一项投资。
印度当地数字化媒体MediaNama的编辑Nikhil Pahwa表示个性化信息在印度可能有着难以估量的力量。
他表示：“印度人喜欢和冒充名人的人合影留念，比如他们接到了总理打来的电话，而总理说话的口气就好像很了解他们，知道他们住在哪里，知道他们的困难是什么，那么他们就会无比激动。”
互联网自由基金会的Waghre则质疑人工智能生成的内容是否足以说服选民从而影响选举结果，但他也承认长期的影响一定会出现问题的，并表示：“一旦这种内容变成了人们接受信息的正常渠道，那以后如果有虚假视频那该怎么办？”
莫迪自己要求对AI生成的视频增加免责声明，从而避免人们被“误导”。Jadoun和另外两个印度AI初创公司代表发起了“AI联合声明”运动，要求保护数据隐私，增强选举诚信。例如Indian Deepfaker公司用AI生成的视频会标注“AI生成”，Jadoun称AI生成的语音聊天机器人会表明自己的声音是AI合成。
拥有拉贾斯坦邦多处度假胜地的28岁的Narendra Singh Bhati说自己本周就接到了Rathore打给他的AI生成的语音电话。Bhati表示自己对于如此个性化的声音印象深刻，感到震惊。
Bhati说尽管电话已告知自己内容是AI生成，但自己完全无法判断是否真的是AI生成的。他说自己甚至在通话快结束时对着电话说了“再见，Bhati先生”。
用户评论