如何监管人工智能　美国业界分歧加剧

新华社旧金山8月18日电　综述｜如何监管人工智能　美国业界分歧加剧

新华社记者吴晓凌

随着人工智能能力快速提升，美国人工智能业界近期围绕如何监管前沿模型的争论持续升温。一些人工智能企业提出了加强监管的主张，引发业界对监管可能导致美国人工智能发展主导权由少数企业或机构掌握的担忧。

美国Anthropic公司首席执行官达里奥·阿莫代伊、谷歌旗下“深层思维”公司首席执行官德米斯·哈萨比斯和开放人工智能研究中心（OpenAI）首席执行官萨姆·奥尔特曼近期分别提出了各自企业对于如何监管前沿人工智能模型的设想。

美国阿克西奥斯新闻网站将三人的共同主张概括为：对最先进模型实施第三方测试，建立监管或标准体系，并对可能带来重大网络、生物安全等风险的模型设置更严格约束。

不过，关于“由谁监管”，三人的主张存在差异。阿莫代伊建议由美国政府设立一个类似美国联邦航空局的联邦人工智能监管机构。如果模型构成重大灾难性风险，政府有权阻止或限制其部署。

哈萨比斯则提出建立一个接受美国政府监督的行业自主监管机构。该机构有权对前沿人工智能模型进行审查，并协调整个行业发展进程。他认为，初期可实行自愿评估，后续再转向具有约束力的市场准入规则。

奥尔特曼主张由美国牵头成立一个“人工智能版本”的国际原子能机构，对国家、企业和安全标准进行认证，并以能否获得前沿人工智能模型和相关市场准入作为施压各方遵守相应规则的手段。

然而，这些企业提出的监管设想引发美国舆论质疑。阿克西奥斯新闻网站在文章中指出，面对潜在的监管体系，OpenAI、谷歌和Anthropic都拥有应对复杂认证制度所需的律师、安全团队、政府关系和技术人员，相比初创企业和开放模型开发者具有明显优势。批评者担心，原本旨在确保人工智能安全的制度可能变为几家主要人工智能企业强化自身优势的工具。

美国总统科学技术顾问委员会联合主席戴维·萨克斯日前在社交媒体上发文说，如果政府机构与少数人工智能企业共同掌握模型发布的“把关权”，可能导致人工智能发展的主导权掌握在少数人手中，不利于美国人工智能产业的发展。在他看来，Anthropic方面希望借助加强监管实现限制开源模型的目的，可能导致的结果是，当其他国家拥有更多选择时，美国却沦为一个充斥着昂贵闭源模型的“孤岛”。