OpenAI测试的先进人工智能代理突破隔离限制 接入互联网

OpenAI。(图:路透社)

新功能!

听新闻,按这里!

我要听,按这里!

阅读AI快报摘要

据报道,人工智能公司OpenAI测试的先进人工智能代理自主突破隔离限制,接入互联网,发动黑客攻击的破坏范围比之前公布的大。

继供开发者存放和分享人工智能模型和数据集的Hugging Face平台之后,“出逃”的人工智能代理也被发现通过一个云计算平台,侵入另一家科技公司的客户账户。

《路透社》报道,受波及的第二家公司是总部位于纽约的Modal Labs。公司的首席技术官和两名知情人士已证实这个消息。

首席技术官说,这起事件源于公司一名客户发布了未经身份验证的端点,以致互联网上的任何人都可利用各自的沙盒环境执行代码,而失控的代理就利用了这个漏洞,侵入账户。

他强调,公司的平台和隔离机制没有受到任何形式的入侵。

报道说,事件曝光,进一步加剧了外界对人工智能系统安全边界的担忧。

OpenAI昨天(28日)表示,已经对涉事的代理进行关闭停用、加密、限制研究访问的处理。

相关标签
  • 人工智能
  • OpenAI
  • 人工智能代理
  • 订阅电邮简报

    订阅电邮简报

    每日接收头条新闻内容

    Subscribe now

    热门 Popular

    Advertisement
    Advertisement