当局探讨加强AI事故通报机制 涵盖险些酿成事故的事件

资讯通信媒体发展局和网络安全局正在探讨,如何加强严重人工智能相关事故的通报机制。(资料画面:CNA/Calvin Oh)

新功能!

听新闻,按这里!

我要听,按这里!

  • 数码发展及新闻部长杨莉明表示,人工智能系统的自主性越来越高,并可能采取非预期的行动,对安全和保安构成风险。
  • 由于这类事故可能不符合现有的通报门槛,资讯通信媒体发展局和网络安全局正研究,如何加强严重人工智能相关事故的通报机制,包括是否需要增设通报或信息共享安排。
  • 当局将参考国际做法,这包括网络安全局同主要科技供应商及关键信息基础设施营运商,交换网络安全情报的机制。

资讯通信媒体发展局(IMDA)和网络安全局(CSA)正在探讨如何加强严重人工智能相关事故的通报机制,包括是否需要增设通报或信息共享安排,以更好地处理人工智能带来的新兴风险。

数码发展及新闻部长杨莉明在答复国会议员的提问时表示,我国目前已针对涉及个人资料、网络安全,以及关键或受监管服务中断的严重事故制定通报规定。无论事故是否涉及人工智能,这些规定都适用。

不过,随着人工智能系统的自主性越来越高,这些系统可能采取非预期的行动,对安全和安保构成风险。

杨莉明指出,这类事故可能不符合现有的通报门槛,尤其是没有造成需要通报的伤害的情况。不过,这类事故以及险些酿成事故的事件,相关信息仍有助当局了解新兴风险,并加强预防措施。

因此,资讯通信媒体发展局和网络安全局正研究,如何加强严重人工智能相关事故的通报,包括是否有必要增设通报或信息共享安排。

当局将参考国际做法,并在可行的情况下,以现有机制为基础进一步完善相关安排。这包括网络安全局同主要科技供应商及关键信息基础设施营运商,交换网络安全情报的机制。

杨莉明强调,任何新增安排都应具有针对性,并符合适度原则,同时兼顾合理的安全及商业敏感因素。

她也指出,鉴于人工智能风险具有跨境性质,国际合作同样重要。

新加坡将同有意合作的伙伴,共同建立对人工智能事故及险些酿成事故事件的共识,并探讨如何以安全的方式共享相关信息。

 

相关标签
  • 新加坡资讯通信媒体发展局
  • 新加坡网络安全局
  • 人工智能
  • 人工智能事故
  • 订阅电邮简报

    订阅电邮简报

    每日接收头条新闻内容

    Subscribe now

    热门 Popular

    Advertisement
    Advertisement