亚马逊云科技 重申其对负责任生成人工智能的承诺

作为人工智能和机器学习领域的先驱，亚马逊云科技 致力于负责任地开发和部署生成式 AI

作为当今时代最具变革性的创新之一，生成式人工智能继续吸引着世界的想象力，我们将一如既往地致力于负责任地利用它。我们拥有一支由专门负责任的人工智能专家组成的团队，再加上我们的工程和开发组织，不断测试和评估我们的产品和服务，以定义、衡量和减少对准确性、公平性、知识产权、适当使用、毒性和隐私的担忧。尽管我们今天还没有得到所有答案，但我们正在与其他人合作，开发新的方法和解决方案来应对这些新出现的挑战。我们相信，我们既可以推动人工智能的创新，又可以继续实施必要的保障措施来保护我们的客户和消费者。

在 亚马逊云科技，我们知道生成式 AI 技术及其使用方式将继续发展，带来需要更多关注和缓解 的新挑战 。这就是为什么亚马逊积极与专注于负责任地开发下一代人工智能系统的组织和标准机构合作，包括NIST、ISO、责任人工智能研究所和人工智能伙伴关系。事实上，上周在白宫，亚马逊签署了自愿 承诺 ， 以促进人工智能技术的安全、负责任和有效的发展。我们渴望与政策制定者、学者和民间社会分享知识，因为我们认识到生成式人工智能带来的独特挑战需要持续的合作。

这一承诺符合我们开发自己的生成式人工智能服务的方法，包括在综合开发过程的每个阶段都考虑负责任的人工智能来构建基础模型 (FM)。在设计、开发、部署和运营的整个过程中，我们会考虑一系列因素，包括 1/ 准确性，例如，摘要与基础文档的匹配程度；传记事实是否正确；2/ 公平，例如，产出是否以类似方式对待人口群体；3/ 知识产权和版权注意事项；4/ 适当用法，例如，过滤掉用户对法律咨询的请求、医疗诊断或非法活动；5/ 毒性，例如仇恨言论、亵渎，和侮辱；6/ 隐私，例如保护个人信息和客户提示。我们在获取训练数据的流程、FM 本身以及用于预处理用户提示和后处理输出的技术中构建解决这些问题的解决方案。对于所有的 FM，我们都积极投资以改进我们的功能，并在客户尝试新用例时向他们学习。

例如，亚马逊的Titan FM旨在检测和删除客户提供的自定义数据中的有害内容，拒绝用户输入中的不当内容，并筛选包含不当内容（例如仇恨言论、亵渎言论和暴力）的模型输出。

为了帮助开发人员负责任地构建应用程序， Amazon CodeWhisperer 提供了一个参考跟踪器，用于显示代码推荐的许可信息，并在必要时提供指向相应开源存储库的链接。这使开发人员可以更轻松地决定是否在项目中使用代码，并根据自己的意愿提供相关的源代码属性。此外，亚马逊 CodeWhisperer 会筛选出包含有害短语的代码推荐和表明偏见的推荐。

通过这样的创新服务，我们将继续帮助我们的客户实现生成式人工智能的好处，同时在公共和私营部门之间开展合作，确保我们以负责任的方式行事。我们将共同利用这项变革性的新技术作为造福人类的力量，在客户和广大公众之间建立信任。

作者简介

彼得·哈里南 与负责任的人工智能专家团队一起， 领导 亚马逊云科技 AI 负责任的人工智能科学与实践方面的计划。他在人工智能（哈佛大学博士）和企业家精神（Blindsight，出售给亚马逊）方面拥有深厚的专业知识。他的志愿活动包括在斯坦福大学医学院担任顾问教授，以及担任马达加斯加美国商会会长。如果可能的话，他会带着孩子去山里：滑雪、登山、徒步旅行和漂流