董事会需要了解人工智能风险

本文由《议程》提供,这是一份专注于公司董事会的《金融时报》专业刊物

人工智能的使用正在改善人们的工作方式,从帮助病理学家更好地检测癌症到将工人从危险的工作中解放出来。

普华永道对 1,000 多名高管的调查显示,去年企业对人工智能的使用量与 2020 年相比增加了 7%。

然而,专家表示,监管正在赶上创新,董事会必须了解人工智能已经出现的陷阱。

PA Consulting 人工智能主管 Lee Howells 表示

无论有意还是无意,大多数组织都已经在使用某种形式的人工智能,从安全日志监控到驾驶员追踪,再到恒温建筑控制。

“任何拥有大量数据的组织如果没有某种形式的高级分析就无法竞争。易于使用的人工智能工具在云平台上的出现只会加速其使用,”他说。

董事会通常关注人工智能的使用在技术上或财务上是否可行,但他们应该更深入地探究每个项目是否必要。

伦敦艾伦图灵研究所伦理与负责任创新研究主任戴维莱斯利表示,算法劳动力管理技术可能会破坏工作场所的信任。

“只要想想广告技术自动化如何创造了这种基于注意力的经济,其中推动和行为控制已经变得非常普遍,”他说。

莱斯利说,这些机制可以轻松应用于激励工作场所的生产力或 Zoom 会议的注意力。

莱斯利表示,英国即将迎来更加健全的监管环境

“董事会必须走在前面。”

11 月,英国议会未来工作跨党派小组发布了一份有关职场人工智能的报告,同时英国上议院也提出了一项算法透明度法案。

美国和欧盟的政界人士正在准备类似的立法。

莱斯利说:“如果公司已经采用了能够最终减少责任并预见到潜在有害影响的最佳做法,那么它们将更能适应不断变化的法律环境。”

人力资源和人才发展专业机构 CIPD 的高级研究顾问 Hayfa Mohdzaini 表示,在人力资源领域,工作场所现在使用人工智能来筛选和面试候选人、确定内部职位的员工并向员工推荐相关课程。

她说,人工智能不应该损害就业权利。

“当人工智能用于做出对人们职业生涯有重大影响的决策时,应该有一个明确的流程,让人们可以上诉,要求人工审查该决策。如果不能妥善解决这个问题,可能会对公司的声誉产生负面影响,”她说。

四年前,亚马逊放弃了一款用于阅读和排名

求职者简历的人工智能工具,因为该软件被发现对女性存在偏见。

品诚梅森律师事务所就业业务合伙人安妮·萨蒙表示,董事会需要确保不仅有技术专家参与人工智能项目的采购和实施,还有那些具有专业多样性和包容性、人力资源和数据隐私知识的专家参与。

需要采取适当的保障措施。“例如,如果 亚洲数据 人工智能程序将代表雇主进行面试,雇主将如何确保那些可能影响人工智能解读其面部表情方式的残疾人得到公平对待?”萨蒙说。

“这可能包括允许这些员工选择退出人工智能流程并接受人工面试。”

莱斯利将那些声称能够检测人类情绪、态度和参与度的工具描述为“伪科学,且未在科学层面上得到适当验证”。

他说,雇主需要对人工智能项目背后的科学进行尽职调查。这可能涉及提升采购团队的技能或引入专注于人工智能的专家职位,包括专注于技术伦理的社会科学家。

Mohdzaini 表示,未来组织可能需要将使用人工智能实现决策自动化的影响作为合规问题来考虑。

亚洲数据

根据英国政府12 月发布的人工智能路线图

第三方审计将成为强制性要求。

萨蒙表示,董事会必 它有效联属博客搜索引擎优化 须了解信息专员办公室强调的数据保护风险以及平等与人权委员会在最近的指导中强调的偏见和歧视风险。

ICO 表示,公司董事会通常会 欧盟电话号码 批准在工作场所使用人工智能。

“重要的是,他们要意识到风险以及如何降低风险,这样他们才能放心地签署,因为如果发生损害,他们将承担责任。”
EHRC 表示,帮助公司避免有偏见的自动化决策是其战略计划的一部分。目前,公司应该考虑《2010 年平等法案》如何适用于自动化流程,他们要充分了解他们的系统如何运作,并且对系统的使用方式保持透明,EHRC 监管主管 Jackie Killeen 说。

本文基于 Neanda Salvaterra 为Agenda撰写的一篇文章。

 

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注