天天亮点！Hugging Face CEO:需要平衡AI模型的开放性和责任性

编程客栈（www.cp编程客栈pcns.com）6编程客栈月29日 消息:关于人工智能社区在是否保持人工智能模型开放（并冒不良行为者滥用它们的风险）或选择闭源仅由少数科技巨头控制的问题，Hu编程gging Face 的首席执行官主张采取平衡的方法。

在国会听证会上，Hugging Face 首席执行官兼联合创始人克莱门特德兰格 （Clement Delangue） 表示，让人工智能更加开放“可以培养安全创新”。

(相关资料图)

德兰格在众议院科学、空间和技术委员会关于人工智能的听证会上发表讲话，他解释说，扩大机器学习模型和训练数据集的访问范围将使研究人员和用户“更好地理解系统、进行审编程计、降低风险并找到高风险”。

然而，这位互联网最大的人工智能模型库之一的CEjsO承认，完全开放的系统会导致不良行为者滥用，因此他主张将人工智能开放性和问责制结合起来。德兰格说:“我们有责任在人工智能研发的各个阶段优先考虑并记录我们的道德工作。”

Hugging Face 首席执行官认为，开放系统促进民主治理，增加访问权限，尤其是研究人员的访问权限，可以“帮助解决关键的安全问题”。

德兰格在证词中表示:“开放可以增强透明度并促进外部审查。人工智能领域目前由少数高资源公司主导，他们对新颖的人工智能系统（包括基于开放研究的系统）提供有限或不开放的访问权限。为了鼓励竞争并增加人工智能经济机会，我们应该让许多人能够参与进来，为扩大人工智能在有用应用中的进步广度做出贡献，而不仅仅是允许少数组织提高更强大模型的深度。”

OpenAI 等公司选择将 GPT-4等模型闭源，以免泄露其功能的底层信息。德兰格在国会作证时表示，所有人工智能模型、数据集和“人工智能系统的相关组件”都应该共享细节，以提高透明度。

Hugging Face 在其平台上拥有超过250，000个模型，其首席执行官认为，发布更多有关模型的文档将有助于减轻风险，因为用户和开发人员将能够了解如何衡量它们。

德兰格加入了人工智能初创公司 Anthropic 最近的呼吁，呼吁增加对国家标准与技术研究所的投资，以提高人工智能的透明度。

美国国家标准与技术研究院NIST 一直致力于制定人工智能标准，德兰格在证词中表示，该机构需要更多资源来帮助对抗人工智能偏见和风险。他说:“增加对 NIST 的资助既可以加强美国政府的技术领导地位，也可以改善跨部门研究人员合作解决人工智能风险的空间。”

德兰格还呼吁为美国国家人工智能研究资源 （NAIRR） 提供更多资金，并补充说，资源的扩大限制了“谁能够为创新研究和应用做出贡献”。

标签：