本周早些时候，IEEE标准协会（IEEE-SA）发布了第一个版本的自动化和智能系统伦理指南，标题为“合乎伦理的设计（EAD）：将人类福祉与人工智能和自主系统优先考虑的愿景”。

EAD的指导方针以科学分析和资源、高层次原则以及可操作的建议为特色，为自主和智能系统(A/IS)的道德实施提供可操作的建议。EAD说:“我们在符合伦理的设计中提供高层次的一般原则，我们认为这些原则是创造和经营进一步的人类价值和确保可信度的必要条件。”

EAD指南解释了8条高级伦理原则，适用于所有类型的自治和智能系统(A/IS)，不论它们是物理机器人、软件系统或算法聊天机器人。

IEEE标准协会发布自动化和人工智能系统的道德准则

EAD的八项一般原则

人权

如EAD所述，A/IS的建立和运作应尊重、促进和保护国际上公认的人权。个人、公司、研究机构和政府应充分考虑这些权利，以反映尊重和履行人权、自由、人的尊严和文化多样性的原则。

福利

EAD指出，A/IS创造者应把改善人类福祉作为发展的主要成功标准。EAD建议A/IS应将人类福祉作为所有系统设计的结果优先考虑。它应该使用最好的可用的和广泛接受的“幸福指标”作为参考点。

数据代理

A/IS创始者应更加强调增强个人的能力，使他们能够访问和安全地共享其数据。A/IS的创造者应该集中精力维持人们控制自己身份的能力。

组织和政府应该测试和实现允许个人为个案授权决策指定其在线代理的技术。对于未成年人，应执行现行的监护办法，以确定其在这方面的适宜性。

有效性

创造者应提供证据证明A/IS的有效性和适用性。EAD建议从事A/IS开发的创建者应该集中精力定义度量标准，以作为系统有效性的有效和有意义的度量标准。

A/IS的创建者应该设计这样的系统，其中可以聚合关于系统特定部署的度量标准，从而交付关于系统跨不同部署的有效性的信息。此外，行业协会和其他组织(IEEE和ISO)应该合作开发报告A/IS有效性的标准。

透明度

EAD指出，特定A/IS决策的基础应该始终是可发现的。它建议，新的标准应以描述可测量和可测试的透明度水平的方式制定。

此外，这些标准将为设计人员提供在开发过程中自我评估透明度的指南，并建议提高透明度的机制。

问责制

按照EAD的说法，A/IS的建立和运作方式应使其为所作的决定提供“明确的理由”。EAD指出，为了解决责任和问责问题，法院应在发展和部署之前澄清A的“责任、罪责、责任和问责”。它还指出，A/IS的设计师和开发人员应了解这些A/IS之间现有文化规范的多样性。

意识到滥用

EAD指出，创造者应提供保护，防止A/IS在运作中可能出现的所有误用和风险。EAD建议创作者应该意识到滥用的方法。

它还指出，A/IS的设计应尽量减少这些系统的机会。应该提高公众对潜在的A/IS技术滥用问题的认识。

能力

EAD规定，创建者应指定和操作人员应坚持安全操作所需的知识和技能。它还提到，A/IS的创建者应该清楚地指定理解和操作A/IS的任何给定应用程序所需的知识类型和层次。

此外，A/IS的创建者应该向受影响的各方提供有关操作员的角色和操作员错误的影响的信息。应向专家和一般公众提供丰富和详细的文件。