在深入探讨文章的核心之前，首先需要了解生成性人工智能（GenAI）到底是什么。想象一个超级智能的机器人，能够根据要求创建图像、标题、视频和各种内容。这基本上就是GenAI。可以将其视为一个虚拟的艺术家或作家，经过所有现有数据的训练。基于这些知识和给出的提示，这个虚拟创造者可以生成模仿人类创造力的内容。这些内容可以是新闻文章、演讲、朗朗上口的口号，也可以是表情包、社交媒体帖子和逼真的视频。
像ChatGPT和Midjourney这样的生成性AI工具正在重塑内容的创建、共享和消费方式，在政治竞选期间尤为如此。虽然生成性AI可以增强政治参与度和简化竞选活动，但它也引发了关于错误信息、操纵和虚假宣传的担忧。在本文中，将探讨生成性AI为选举领域带来的机遇和威胁。
生成性AI在选举期间可以是一个非常有用的工具。它可以优化选举活动，增强选民参与度，并帮助获得公众信任。以下是具体方式：
生成性AI可以帮助政党为不同地区制定口号，为不同的人口群体量身定制信息。在美国，量身定制的信息一直在帮助政治家通过年轻人经常使用的平台接触年轻选民。
AI还可以用多种语言创建竞选内容，这在印度等语言多样性巨大的民主国家中增加了可及性。用地区语言的演讲和口号有助于更好地与当地公众联系，从而增强选民参与度。
生成性AI可以通过为不同的选民群体创建个性化内容来优化政治竞选。由AI驱动的数据分析可以帮助政党了解选民的偏好和行为。通过分析大量数据，AI可以识别关键问题，针对摇摆选民，并相应地优化外联策略。
生成性AI还可以用来自动化社交媒体帖子，并实时分析选民情绪。这使得竞选活动能够更有效地响应公众关切，并迅速调整策略。
生成性AI工具可以帮助选民轻松获取有关候选人、政策和选举流程的信息。这些工具可以比较不同候选人的宣言，并根据候选人的历史和档案给出评估。
选民还可以使用生成性AI从他们的在线视频链接或其他录音中获得深入的摘要和详细分析辩论和演讲，所有这些都增加了选举竞选期间的透明度，赋予选民做出知情决策的权力，并培养更具参与性的选民群体。
尽管生成性AI在改善全球选举方面有许多用途，但这项技术在选举期间也被滥用来创建和传播错误信息。以下是生成性AI在选举背景下的一些威胁：
AI可以通过创建回音室来引起或加剧政治极化。在线新闻聚合器和社交媒体平台上使用的AI算法通常优先考虑与用户现有信仰一致的内容。这限制了他们接触不同观点的机会，创造了选择性无知的回音室。这可能会加深选民之间的分歧，使共识建设更具挑战性。在基础层面上，这威胁到民主话语的基本结构。
生成性AI在选举中最重大的威胁之一是错误信息的潜力。AI可以生成逼真但虚假的内容，如深度伪造视频或假新闻文章，这可能会导致选民操纵和影响公众信任。此外，虚假信息的传播可以影响选民的感知和行为，导致选民群体被误导。
2024年1月，发生了一起事件，AI生成的自动电话模仿美国总统乔·拜登的声音，对选民产生了影响，影响了他们的投票率。这使得美国政府更加严肃地对待在选举中打击GenAI的负面使用，并在美国引发了关于数据隐私、AI透明度和问责制的讨论，这些讨论仍在进行中。然而，到目前为止，还没有通过任何有效的立法来解决这个问题。
最近在2024年9月，一张泰勒·斯威夫特支持唐纳德·特朗普的深度伪造图片在互联网上流传。这导致这位歌手兼词曲在Instagram上公开支持副总统卡马拉·哈里斯，部分作为对抗AI生成的错误信息的回应。这类事件鼓励了OpenAI和谷歌开发和实施安全框架，以遏制AI生成的虚假内容的产生和传播。
与此同时，印度正在处理与数字治理和错误信息相关的问题，同时试图规范社交媒体平台，特别是在与选举相关的内容方面。
知道有AI生成的虚假内容存在，可能会导致公众对信息的真实性产生怀疑。选民可能会发现越来越难以区分真实新闻和AI生成的捏造。
随着生成性AI对选民的影响越来越大，像印度和美国这样的民主国家正面临重大的监管挑战。因此，目前，以下是一些可以做的事情，以确保不会被错误信息在选举竞选期间欺骗。