OpenAI安全团队员工辞职 批评公司AI安全问题处理方式

新功能!

听新闻,按这里!

我要听,按这里!

摘要
  • OpenAI安全系统团队负责透明度工作的前员工David Robinson辞职,批评公司在人工智能安全上做法不足。
  • 他指出OpenAI等公司过度强调快速开发,依赖“迭代式部署”,即先推出系统再逐步补强安全措施。
  • David Robinson认为先进人工智能应采用接近核能、航空业的安全标准;OpenAI回应称必要时会暂停训练或延后发布。

美国人工智能公司OpenAI安全系统团队负责透明度相关工作的员工辞职,并批评公司处理人工智能安全问题的方式,认为公司注重快速开发的文化,增加了发生失误的风险。

这名前员工罗宾逊(David Robinson)在《大西洋月刊》昨天(3日)刊登的文章中表示,包括OpenAI在内的人工智能公司远未做到足够谨慎,并指它们在开发更强大的系统之前,应更加重视安全专业知识和研究。

罗宾逊指OpenAI高度依赖所谓的“迭代式部署”,也就是先发布系统,并在问题出现时加强安全保障措施。

他认为,反复试错的时代已经结束。先进的人工智能系统需要采取更接近核能和航空等行业所采用的安全保障措施。

OpenAI发言人在一份声明中表示,公司会确保模型不会超出安全管理和保障的范围,当需要放缓进度时,公司会暂停训练或暂缓模型的发布。

相关标签
  • OpenAI
  • 辞职
  • 人工智能
  • employee
  • 订阅电邮简报

    订阅电邮简报

    每日接收头条新闻内容

    Subscribe now

    热门 Popular

    Advertisement
    Advertisement