最近的一项研究的研究表明每种工具

jakir05

的不良代码率都很高。使用 生成代码的成本效益计算必须考虑到使用其输出所带来的较高风险。 缓解措施 好消息是，仔细的治理和正确的实施可以减轻许多此类安全风险。 等组织已经意识到这些信息安全风险，并意识到这些风险可能会阻碍其产品的成功。开发者社区也探索了缓解措施，虽然我们不太可能开发出消除风险的灵丹妙药，但有一些方法可以避免、缓解和管理风险。 封闭API 防止信息泄漏的一种选择是使用“封闭”API 模型。虽然许多 LLM 实现可以从您贡献的信息中动态学习，但一些公司正在引入订阅模型，承诺您的输入（无论是代码、文本还是图像）不会用于进一步改进模型。


三大云服务提供商也都在推出生成式人工智能产品，其中许多都提供数据处理保证，确保其输入数据不会离开该地区，从而有助于满足合规性要求和监管。 然而，目前很难从外部验证这些保证；您必须相信提供商的话，这可能无法令监管机构或您的法律团队满意，尤其是在涉及任何客户数据泄露时。证明否认是很困难的，因此制定确保不会发生数据泄露的验证策略具有挑战性。未来，人工智能工具提供商有望提供经过验证的 API，确保数据安全。 就良好实践而言，您应该避免 奥地利 WhatsApp 号码列表 向这些 API 提交个人数据，除非您已获得用户的明确同意（并且可以证明已给予同意）。个人数据可能位于您的数据仓库中，但也可能通过客户服务、运输和物流或销售渠道泄漏。基本上，任何时候员工可能使用法学硕士帮助起草对客户的回复，他们都应该意识到泄露个人数据的风险。如果您还没有这样做，那么现在是实施管理 LLM 个人数据使用的公司政策的最佳时机。



考虑到这些风险，并且希望了解组织中如何使用 LLM，一种可能的方法是限制对 API 的直接访问，将其替换为具有内部托管服务的外观。该服务可以帮助清理个人数据、标记误用和滥用、提供内部审计并简化成本管理。用户不调用 LLM 的外部 API，而是调用验证请求并将其传递给 LLM 的内部 API。必须正确监控外观 API，并通过云单点登录对用户进行身份验证。 然而，这种方法有一个缺点。由于模型无法从您的输入中学习，因此它们无法轻松适应您的需求。你基本上受到模型的支配，当你向其他用户学习时，不能保证你会朝着对你有利的方向学习。随着模型在不受您影响的情况下随着时间的推移而变化，其输出可能会变得不太相关，并且输出对于您的用例的有效性可能会降低。