作者： 创新及产品管理能力建设项目

AI产品术语

什么是模型安全评估？

模型安全评估(Model Safety Evaluation)是人工智能开发中的关键环节，旨在系统性地检验机器学习模型在部署后面对潜在威胁（如对抗性攻击、数据偏差或环境变化）时的安全性和鲁棒性。这一过程确保模型不会产生有害行为，如隐私泄露、 […]

AI产品术语

什么是AWS Bedrock？

AWS Bedrock 是亚马逊云服务（Amazon Web Services）推出的一项全托管生成式人工智能（AI）平台服务，旨在为开发者与企业提供便捷访问和集成多种预训练大型语言模型（LLM）的统一接口。它整合了来自领先AI公司如Ant […]

AI产品术语

什么是OpenAI API？

OpenAI API是由OpenAI公司提供的一套标准化应用程序编程接口（API），它允许开发者通过简单的HTTP请求访问和集成其先进的人工智能模型，如GPT系列，实现文本生成、语言理解、代码生成等多样化任务。该接口采用云端服务模式，用户无 […]

AI产品术语

什么是VLLM？

VLLM是一个高效的大型语言模型推理引擎，专为优化模型服务过程而设计，通过创新的分页注意力机制和先进内存管理技术，显著提升推理吞吐量并降低延迟，从而支持高并发、低资源消耗的模型部署。 在AI产品开发的实际落地中，VLLM帮助产品经理解决部署 […]

AI产品术语

什么是FastChat？

FastChat是一个开源的聊天机器人框架，基于大型语言模型（如LLaMA或Vicuna），旨在简化聊天人工智能的部署、测试和开发过程。它通过提供高效的模型推理、API接口和评估工具，使开发者能够快速构建和扩展对话系统，同时支持多模型集成和 […]

AI产品术语

什么是LlamaIndex？

LlamaIndex 是一个专为大型语言模型（LLM）应用设计的开源框架，旨在通过高效的数据索引和检索机制，将外部数据源与LLM无缝集成，支持构建检索增强生成（RAG）系统。它允许开发者处理结构化或非结构化数据（如文本、PDF或数据库），创 […]

AI产品术语

什么是LangChain？

LangChain是一个开源的开发框架，专为构建基于大型语言模型（LLMs）的应用程序而设计，它通过提供模块化组件如提示模板、代理系统、记忆机制和工具链，使开发者能够高效地创建复杂的AI应用链。该框架的核心在于将LLMs与外部数据源、API […]