政府拟议为人工智能(AI)服务设类似“营养标签”的制度,让用户更了解系统的运作方式与功能。不过有专家认为,这些标签设计必须清晰、定期更新,并获得业界支持。
新加坡国立大学人工智能学院(AI Institute),负责领导人工智能治理与政策领域的Simon Chesterman教授在接受新传媒英文新闻网CNA 访问时表示,这类标签有可能改善透明度,但若设计不理想,就可能沦为流于形式的作业。
他表示,标签必须说明人工智能系统的功能、数据来源、主要的局限、更新的频率,以及在出现问题时由谁负责。
他说:"提供给消费者使用的工具,最重要是不要给用户有精确的假象,而是让他们更了解何时应该相信所生成的结果,何时应该保持谨慎。”
南洋理工大学电脑与数据科学学院人工智能系主任安波教授也认同,标签必须在清晰度和细节之间取得平衡。他认为,如内容太模糊、太长或流于形式,大多数用户都会忽略这些标签。
标签要定期更新和易于理解
随着人工智能系统的演变,标签也要不断更新。受访专家认为,由于模型经常会更新,静态标签可能很快就会过时。安波教授建议,可以把标签链接到一个定期更新的页面。
Motorola Solutions去年7月开始采取这种方式。
专家认为,不同系统有着广泛应用和不同风险等级,因此统一标签将是一项挑战。
Motorola Solutions人工智能研发团队的负责人Jehan Wickramasuriya举例表示,可解释性(explainability)这个字的概念,对数据科学家、警察局长或公众而言,都有不同的含义。他表示,公司在为不同利益相关者统一用语的同时,又要确保所有人都能理解,过程艰难,但也颇有收获。
尽管如此,各界都广泛认同仍需要一套标准。
专家表示,人工智能“营养标签”的最终目标,不是追求完全透明,而是帮助用户做出更明智的决定。







