公司

纽约市议员正计划通过金钱激励方式，鼓励知情人士举报涉及危险人工智能的行为，相关奖金将源自对违规企业征收的罚款。

这项举措属于纽约市强化AI监管整体方案的一部分。市议会即将审议的一项提案规定，举报人若报告AI企业违规行为，可在最终向涉事企业收取的罚款或罚金中获得一定比例的报酬。另一项提案则明确，在特定情形下，因AI系统遭受损害的个体有权对系统开发者提起诉讼。

在10月5日围绕AI风险及潜在防护措施的听证会召开前，纽约市议会议长朱莉·梅宁公布了这批法案，届时市议会全部51名议员均将出席。随着AI模型快速发展所引发的忧虑日渐加深，纽约市也在推进更严格的监管。Anthropic前研究员雅各布·考克森本月辞职，并发出警告称AI“可能会在本世纪20年代结束前危害所有人的生命”。

梅宁要求Anthropic、OpenAI、谷歌、SpaceX的AI部门及Meta的首席执行官出席10月5日的听证会，并表示必要时市议会可动用传票权。“纽约市正迅速成为全球科技与人工智能中心，我们希望鼓励这种发展。但这同时也意味着，我们肩负着更大的责任，必须建立恰当的保护机制，以防纽约市民遭受意外后果。”

据IT之家了解，其他提案要求AI系统在纽约市进行推广、销售或部署前，必须通过第三方验证，同时须配备由人类控制的“紧急关闭开关”。另一项提案则要求聊天机器人供应商遵守数据隐私、安全及透明度规定，并授权纽约市依据这些要求进行执法。