Loading...

OpenAI推出新一轮企业级功能,强化GPT-4 Turbo LLM和其他模型

AI资讯2周前发布 Yeemen
0 0 0

(本篇文章共884字,阅读时间约1分钟)

OpenAI推出新一轮企业级功能,强化GPT-4 Turbo LLM和其他模型

图源:互联网

OpenAI宣布了其面向API客户的企业级功能扩展,进一步丰富了其Assistants API,并引入了新工具,旨在增强安全性和管理控制,以及更有效地管理成本。

Private Link和加固安全功能

在重大安全升级中,引入了Private Link,这是一种安全方法,可在微软的Azure云服务和OpenAI之间直接通信,后者称其有助于最大限度地减少“对公开互联网的暴露”,用于通过API发送的客户数据和查询。

此举是对现有安全堆栈的补充,包括SOC 2 Type II认证、单点登录(SSO)、AES-256数据加密、传输中的TLS 1.2加密和基于角色的访问控制。

此外,OpenAI还引入了原生多因素身份验证(MFA),以加强访问控制,符合日益增长的合规要求。

对于需要符合HIPAA合规性的医疗保健公司,OpenAI继续为合格的API客户提供业务关联协议,以及零数据保留政策。

升级的Assistants API可处理500倍的文件

OpenAI提供的较少宣传但最重要的企业服务之一是其Assistants API,该API允许企业部署定制的、经过调优的模型,并通过检索增强生成(RAG)调用特定文件,从而在其自己的应用程序内提供对话助手。

例如,今年早些时候,电商公司Klarna吹嘘了其AI助手,该助手是使用OpenAI Assistants API制作的,能够完成700名全职人员的工作,重复查询减少25%,解决时间减少近82%(从11分钟减少到2分钟)。

OpenAI现在升级了Assistants API,引入了增强的文件检索功能,新的“file_search”功能可以处理每个助手高达10,000个文件。

这比先前的20个文件的限制增加了500倍,增加了诸如并行查询、改进的重新排序和查询重写等功能。

此外,API现在支持实时对话响应的流式传输 – 这意味着AI模型(如GPT-4 Turbo或GPT-3.5 Turbo)将根据生成的令牌的速度返回输出,而不是等待完整的响应。

它进一步集成了新的“vector_store”对象,用于更好地管理文件,并提供了更精细的令牌使用控制,以帮助有效管理成本。

项目允许企业控制和分区访问特定任务和分配

一个名为Projects的新功能通过允许组织在项目级别管理角色和API密钥,提供了改进的管理监督。

这个功能允许企业客户范围权限,控制可用的模型,并设置基于使用的限制,以避免意外成本 – 这些增强功能大大简化了项目管理。

基本上,他们可以将一个调优版本的AI模型或甚至是一个普通的基础模型隔离到一个特定的任务或文件集合中,并允许特定的人员在其中工作。

END

       原文标题 : OpenAI推出新一轮企业级功能,强化GPT-4 Turbo LLM和其他模型

© 版权声明

相关文章