近期,一位支持民主党总统候选人、众议员Dean Phillips的聊天机器人开发者被暂停开发资格。这款名为Dean.Bot的聊天机器人旨在与选民进行实时对话,但OpenAI迅速采取了行动,理由是违反了其禁止在政治竞选中使用AI的指导方针。
硅谷企业家Matt Krisiloff和Jed Somers通过他们的超级政治行动委员会"We Deserve Better"支持Dean Phillips,并牵头创建了Dean.Bot。该委员会得到了对冲基金经理Bill Ackman的支持,并与AI初创公司Delphi签订合同,使用OpenAI的ChatGPT技术开发聊天机器人。
OpenAI暂停Delphi账户的行为标志着AI领域的一个重要发展,这是该公司首次对在政治竞选中使用其技术的行为采取行动。OpenAI明确表示,此类使用违反了其政策,特别是与政治竞选和未经同意的模仿有关的政策。
尽管Dean Phillips是一个不太可能的候选人,但他在竞选中非传统地使用AI技术引发了争议。这款模仿Phillips声音的聊天机器人与选民就各种话题进行了互动,包括为什么民主党应该考虑在2024年选举中进行变革。OpenAI的行动突显了AI与政治交叉所带来的潜在风险。
随着AI在选举中的作用变得更加突出,公众对通过AI工具传播错误信息的担忧也在增加。最近由美联社-NORC公共事务研究中心和芝加哥大学哈里斯公共政策学院进行的一项民意调查显示,58%的美国成年人担心AI工具在选举期间增加错误信息的传播。
虽然AI提供了创新的方式来吸引选民,但OpenAI最近的行动强调了负责任和道德使用的必要性。随着选举季节的推进,政策制定者和科技公司必须解决在政治竞选中滥用AI的潜在问题。在技术和民主不断演变的格局中,平衡AI驱动的参与的好处与错误信息传播的风险是一个关键挑战。