起草道德数据实践蓝图的四个步骤
在2019年，UnitedHealthcare的医疗服务部门Optum向50个医疗组织推出了机器学习算法。借助该软件，医生和护士能够监视患有糖尿病，心脏病和其他慢性疾病的患者，并帮助他们管理处方和安排就诊。在研究发现该算法(据称)建议对白人患者比对病情较重的黑人患者给予更多关注之后，Optum正在接受调查。
当今的数据和分析领导者负责利用数据创造价值。鉴于他们的技能和权限，他们还处于组织的独特位置，负责领导道德数据实践。缺乏可操作性，可扩展性和可持续性的数据道德框架会增加不良商业行为，侵犯利益相关者信任，损害品牌声誉，监管调查和诉讼的风险。
首席数据官/科学家和首席分析官(CDAO)在创建自己的道德数据和业务实践框架时应采用以下四个关键实践。
确定组织中现有的专家机构来处理数据风险
CDAO必须识别并利用经济机会进行分析，并且机会带来风险。无论数据使用是内部的(例如，提高客户保留率或供应链效率)，还是内置于面向客户的产品和服务中，这些领导者都需要明确识别和减轻与数据使用相关的损害风险。
开始建立道德数据实践的一种好方法是，着眼于已经解决隐私，合规性和网络风险问题的现有团队，例如数据治理委员会，来建立数据道德框架。将道德框架与现有基础结构相结合，可以提高成功采用和有效采用的可能性。或者，如果不存在这样的机构，则应与组织内的相关专家一起创建一个新机构。数据道德规范管理机构应负责形式化数据道德规范并将这些原则用于开发中或已部署的产品或流程。
确保数据收集和分析适当透明，并保护隐私
所有分析和AI项目都需要数据收集和分析策略。道德数据收集至少应包括：在收集人们的数据时获得知情同意，确保遵守法律，例如遵守GDPR，对个人身份信息进行匿名处理，以便不能对其进行合理的反向工程以显示身份并保护隐私。
其中一些标准(例如隐私保护)不一定具有必须满足的严格标准。CDAO需要评估在道德上明智的选择与其选择如何影响业务成果之间的恰当平衡。然后，必须将这些标准转变为产品经理的职责，而产品经理又必须确保一线数据收集人员按照这些标准行事。
CDAO还必须对算法伦理和透明度持立场。例如，由AI驱动的搜索功能或推荐系统是否应争取最大的预测准确性，从而提供用户真正想要的最佳猜测?将细分细分化，将结果或建议限制在其他“相似的人”过去点击过的地方，这是否合乎道德?并且，将结果或建议包含在并非实际上可预测的，但能使某些第三方获取最大利润的结果或建议中，是否合乎道德?多少算法透明性合适，用户需要多少关注?强大的道德蓝图要求系统地，有意识地解决这些问题，而不是将这些决策推给缺乏培训和经验来制定决策的数据科学家和技术开发人员。
预期并避免不平等的结果
部门和产品经理需要有关如何预期不公平和有偏见的结果的指导。仅由于数据收集不平衡而可能导致不平等和偏见-例如，已经对100,000张男性面孔和5,000张女性面孔进行了培训的面部识别工具，其性别效果可能会有所不同。CDAO必须帮助确保平衡且具有代表性的数据集。
其他偏见不太明显，但同样重要。2019年，Apple Card和高盛(Goldman Sachs)被指控在向男性提供比女性更高的信贷额度时存在性别偏见。尽管高盛(Goldman Sachs)认为信誉度(而非性别)是信贷决策的驱动因素，但从历史上看，女性获得信贷的机会较少的事实可能意味着该算法偏爱男性。
为了减轻不平等现象，CDAO必须帮助技术开发人员和产品经理寻求公平的含义。尽管计算机科学文献提供了无数的度量标准和公平性定义，但是在缺乏与业务经理和外部专家合作的情况下，开发人员无法合理地选择一种，而后者可以提供对最终数据使用方式的深刻背景理解。一旦选择了公平标准，就必须将其有效地传达给数据收集者，以确保遵守标准。
使组织结构与识别道德风险的流程保持一致
CDAO经常以以下两种方式之一来建立分析能力：通过卓越中心，为整个组织服务或采用更加分散的模型，其中数据科学家和分析投资致力于特定功能领域，例如营销，财务或运营。无论组织结构如何，都必须清楚地传达和适当激励识别道德风险的过程和原则。
关键步骤包括：
通过建立从数据道德实体到部门和团队之间的联系，明确建立责任制。这可以通过让每个部门或团队指定自己的“道德倡导者”来监控道德问题来完成。倡导者必须能够提高对数据道德机构的关注，后者可以就缓解策略提供建议，例如增加现有数据，提高透明度或创建新的目标功能。
通过围绕数据和AI道德规范的教育和培训，确保团队之间的定义和流程一致。
通过促进内部团队之间的协作以及共享其他领域的案例和研究，拓宽团队对如何识别和纠正道德问题的观点。
创建激励措施(财务或其他认可措施)以建立一种重视识别和缓解道德风险的文化。
CDAO负责数据的战略性使用和部署，以利用新产品增加收入并创造更大的内部一致性。今天，太多的业务和数据主管试图通过权衡决策的利弊来“道德化”。这种短视的观点会造成不必要的声誉，财务和组织风险。就像数据的战略方法需要数据治理程序一样，好的数据治理也需要道德规范程序。简而言之，好的数据治理就是道德的数据治理。
