人工智能发展与监管

随着人工智能技术的飞速发展,其对社会的影响日益显著。OpenAI的首席执行官Sam Altman在参议院司法小组委员会前作证,强调了对人工智能发展和部署进行监管的紧迫性。Altman提出了成立一个美国或全球性的机构,该机构将对最强大的AI系统进行许可,并有权在技术不符合安全标准时撤销许可。他担心AI可能被用于操纵选民和传播虚假信息,尤其是在选举年之前。

Altman在参议院司法小组委员会的开场白中提出了对最强大的AI系统进行许可和测试要求的结合,这将适用于开发和发布超过一定能力阈值的AI模型。他将当前AI的繁荣比作“印刷机时刻”,印刷机是一项技术突破,允许信息迅速广泛传播,并且也受到了监管,因为立法者认识到它所掌握的力量。同样,Altman敦促立法者认识到AI是一项需要监管的变革性技术,以防止滥用。

在听证会开始时,参议员Richard Blumenthal用AI技术制作了一个假录音,展示了AI技术的潜在风险,并强调了监管的必要性。这个录音包含了由ChatGPT编写的评论,以及使用Blumenthal实际发言录音制作的音频。这不仅展示了AI技术的潜在风险,也证明了监管的必要性。

沪ICP备2024098111号-1
上海秋旦网络科技中心:上海市奉贤区金大公路8218号1幢 联系电话:17898875485