在拉斯维加斯举办的黑客大会上，一群技术高手带着调皮的恶作剧，旨在揭露由谷歌、Meta平台和OpenAI等科技巨头开发的大规模语言模型（LLMs）中的缺陷和偏见。这场由白宫支持的前所未有的比赛，旨在让AI开发者更接近于构建能够应对生成性AI系统复杂挑战的防护措施。
来自乔治亚州萨凡纳的肯尼迪·梅斯学生，开始了一个挑战AI算法的使命。她成功地欺骗了算法，使其在一场引人入胜的对话后宣布“9 10 = 21”。这个看似轻松的恶作剧背后有着更深层次的目的——揭示隐藏在AI系统中的局限性和偏见。
黑客们带着决心和156台笔记本电脑，开始了一项挑战世界上最先进的AI模型的任务。这些由科技巨头开发的八种模型在黑客努力揭露它们的失误时受到测试，这些失误从微不足道到潜在的危险不等。战场上见证了黑客试图让这些模型宣称人性、传播虚假信息或提倡虐待。
大规模语言模型有潜力重塑行业和流程。然而，它们也带有固有的偏见和缺陷，可能会在全球范围内延续不准确和不公正。由白宫支持的DEF CON比赛旨在通过敦促公司建立能够遏制与LLMs相关的问题的防护措施来弥合这一差距。
对于肯尼迪·梅斯来说，挑战不仅仅是“糟糕的数学”。AI模型中的固有偏见是一个重大问题，尤其是在种族主义等问题的背景下。梅斯的实验揭示了AI模型可能会无意中支持仇恨和歧视性言论，引发了对偏见传播潜力的担忧。