据报道,人工智能公司OpenAI测试的先进人工智能代理自主突破隔离限制,接入互联网,发动黑客攻击的破坏范围比之前公布的大。
继供开发者存放和分享人工智能模型和数据集的Hugging Face平台之后,“出逃”的人工智能代理也被发现通过一个云计算平台,侵入另一家科技公司的客户账户。
《路透社》报道,受波及的第二家公司是总部位于纽约的Modal Labs。公司的首席技术官和两名知情人士已证实这个消息。
首席技术官说,这起事件源于公司一名客户发布了未经身份验证的端点,以致互联网上的任何人都可利用各自的沙盒环境执行代码,而失控的代理就利用了这个漏洞,侵入账户。
他强调,公司的平台和隔离机制没有受到任何形式的入侵。
报道说,事件曝光,进一步加剧了外界对人工智能系统安全边界的担忧。
OpenAI昨天(28日)表示,已经对涉事的代理进行关闭停用、加密、限制研究访问的处理。



