Salesforce 周三发布了一项管理其人工智能产品（包括生成式人工智能和机器学习）使用的政策。 这项人工智能政策是一个有趣的先例，因为 Salesforce 在销售平台和客户关系管理领域是一个如此庞大的组织。 此外，政策提供了明确的指导方针，人工智能法规仍处于讨论和制定阶段。
我们与 Salesforce Industry Clouds 执行副总裁兼总经理 Jujhar Singh 讨论了该政策以及为什么公司围绕其生成式人工智能划定道德界限很重要。
Salesforce 的人工智能可接受使用政策是什么？
Salesforce 的人工智能可接受使用政策概述了不得使用其人工智能产品的方式。 该政策于 8 月 23 日发布。该政策限制 Salesforce 客户可以使用其生成式人工智能产品，包括禁止将其用于武器开发、成人内容、基于受保护特征（例如种族）的分析、生物特征识别、医疗或法律建议 、可能产生法律后果的决定等等。
该政策是在 Salesforce 首席道德和人道使用官、美国国家人工智能咨询委员会成员 Paula Goldman 的监督下制定的。
Salesforce 团队在宣布该政策的博客文章中写道：“仅仅提供生成式人工智能的技术能力是不够的，我们必须优先考虑负责任的创新，以帮助指导如何以及应该如何使用这种变革性技术。”
该政策加入了 Salesforce 的内部生成人工智能指南
Salesforce 有一份公开的生成式人工智能开发内部指南列表。 这可以作为其他公司围绕其创建生成式人工智能制定政策的范例。 Salesforce 的指导方针是：
准确性、可验证、可追踪的答案。
避免偏见或侵犯隐私。
支持数据来源并包含人工智能生成内容的免责声明。
确定人类与人工智能之间的适当平衡。
通过调整模型规模来减少碳足迹。
辛格在接受 TechRepublic 采访时表示：“透明度是我们处理新一代人工智能的重要组成部分，因为一切都回到了可信人工智能的概念。”
辛格强调了零保留政策的重要性，这样个人身份信息就不会被用来训练可能会在其他地方重复使用的人工智能模型。 辛格说，Salesforce 正在构建过滤器来去除有毒内容，并不断对其进行调整。
Salesforce 的 AI 政策适用于哪些产品？
该政策适用于 Salesforce 或其附属公司提供的所有服务。
在这个保护伞下是 Salesforce 的旗舰生成人工智能产品，其中包括 EinsteinGPT 平台上托管的所有内容，该平台是一个公共和私人基础模型库，包括 ChatGPT，用于跨行业的客户服务、CRM 和其他任务。 它的竞争对手是 Hubspot 的 ChatSpot.AI 和微软 Copilot。
企业如何为生成式人工智能的未来做好准备？
辛格表示：“科技领导者必须认真思考，他们需要大幅提高员工在生成式人工智能方面的技能。” “事实上，60% 被问到这个问题的人认为自己没有这些技能，但他们也认为他们的雇主实际上需要提供这些技能。”
他说，特别是，快速工程等技能对于在不断变化的商业世界中蓬勃发展至关重要。
在基础设施方面，他强调，企业需要拥有强大的信任基础，以确保人工智能正常工作并生成准确的内容。
六个月后，生成式人工智能的前景会是什么样子？
辛格表示，人工智能监管更严格或更宽松的行业之间可能存在分歧。
“我认为，受到更多监管的行业将在未来六个月内采取更加人性化的方法，”他说。 “当我们进入其他行业时，他们将更加积极地采用人工智能。 在这些行业中，代表你工作的助理将会更加普遍。”
此外，特定行业的法学硕士将“很快开始变得非常非常相关”，他说。
