为AI服务设“营养标签”?专家:可加强透明度 要避免沦为形式

Motorola Solutions公司的人工智能服务“营养标签”。 (图:Motorola Solutions)

新功能!

听新闻,按这里!

我要听,按这里!

政府拟议为人工智能(AI)服务设类似“营养标签”的制度,让用户更了解系统的运作方式与功能。不过有专家认为,这些标签设计必须清晰、定期更新,并获得业界支持。

新加坡国立大学人工智能学院(AI Institute),负责领导人工智能治理与政策领域的Simon Chesterman教授在接受新传媒英文新闻网CNA 访问时表示,这类标签有可能改善透明度,但若设计不理想,就可能沦为流于形式的作业。

他表示,标签必须说明人工智能系统的功能、数据来源、主要的局限、更新的频率,以及在出现问题时由谁负责。

他说:"提供给消费者使用的工具,最重要是不要给用户有精确的假象,而是让他们更了解何时应该相信所生成的结果,何时应该保持谨慎。”

南洋理工大学电脑与数据科学学院人工智能系主任安波教授也认同,标签必须在清晰度和细节之间取得平衡。他认为,如内容太模糊、太长或流于形式,大多数用户都会忽略这些标签。

标签要定期更新和易于理解

随着人工智能系统的演变,标签也要不断更新。受访专家认为,由于模型经常会更新,静态标签可能很快就会过时。安波教授建议,可以把标签链接到一个定期更新的页面。

Motorola Solutions去年7月开始采取这种方式。

专家认为,不同系统有着广泛应用和不同风险等级,因此统一标签将是一项挑战。

Motorola Solutions人工智能研发团队的负责人Jehan Wickramasuriya举例表示,可解释性(explainability)这个字的概念,对数据科学家、警察局长或公众而言,都有不同的含义。他表示,公司在为不同利益相关者统一用语的同时,又要确保所有人都能理解,过程艰难,但也颇有收获。

尽管如此,各界都广泛认同仍需要一套标准。

专家表示,人工智能“营养标签”的最终目标,不是追求完全透明,而是帮助用户做出更明智的决定。

 

相关标签
  • 人工智能
  • 营养标签
  • 数码发展及新闻部
  • AI nutrition labels
  • AI营养标签
  • 订阅电邮简报

    订阅电邮简报

    每日接收头条新闻内容

    Subscribe now

    热门 Popular

    • 我来报新闻挑战赛
    • 大声说
    • 星空下的邂逅
    • 伊朗遇袭
    • 遇见AI
    • 亚洲近距离

    Advertisement

    Advertisement