赋能非技术用户贡献知识并强化模型响应

在每个版本的产品中，红帽用户体验设计团队（UXD）都会优先实施与客户反馈和见解直接相关的工作。对于像 RHEL AI 这样的新兴产品，我们必须以更具创造性的方式来实现这一目标。在即将发布的版本中，我们通过以下反馈渠道来持续优化用户体验：上游社区互动、用户通过 Slack 提交的直接反馈、内部团队成员访谈、可能有兴趣采用 RHEL AI 的 AI 用户和爱好者访谈，以及竞争格局研究。这为我们 RHEAL AI 1.4 版本及更高版本的设计工作提供了重要依据。

我们很高兴向您介绍几项重要的新功能：

• 文档转换 - 能够将已上传的文件自动转换为 Markdown。用户现在可以上传 PDF、HTML 和 ASCII 文档等，这些文档将转换为 Markdown。
• 模型聊天评估 - 让用户能够评估模型响应

贡献体验

贡献体验是指一个图形用户界面（GUI），目前处于开发预览阶段，旨在帮助主题专家为知识提交编写输入内容，而无需理解 YAML，从而降低贡献知识和改进模型响应所需的技术专业知识门槛。如需了解更多上下文和背景信息，请查看我们的工程团队同事于 12 月份撰写的精彩博客。

接下来，让我们深入探讨开发预览版中几个重点改进领域的具体示例！

格式化知识

发现的问题：

编辑 YAML 仍是一大痛点，大多数用户的持续反馈都强调了这一挑战。对于非技术业务专家来说，这尤其难以应对。数据输入这项任务令人望而生畏，用户往往难以区分必填和选填内容，因此经常因缩进错误、多余空格等问题导致报错。

1.4 版本中的应对方案：

我们持续迭代和改进知识贡献 UI，在不影响模型响应和性能的情况下减少摩擦点。在下一次迭代中，UXD 建议将长表单改为向导模式，引导用户完成整个流程，并通过进度可视化增强用户完成各步骤的信心。

此外，文档上传时会自动转换为 Markdown。

添加端点以与模型聊天

为了让用户能够与自己的自定义模型聊天，我们正在不断改进自定义模型端点体验。

要访问自定义模型，用户需要在平台内设置专用的“聊天”端点，以对话形势发送消息并接收响应，从而在整个交互过程中维护上下文；这包括指定所需的模型、身份验证详细信息以及发送聊天交互请求的 API 端点 URL

发现的问题：

在我们的第一次迭代中，所创建的端点列表（称为列表视图）缺少有用的上下文，因此用户无法成功利用端点的功能并与其自定义模型聊天。此外，聊天与模型体验之间没有明确的联系，这就要求我们努力将工作流更紧密地联系在一起。

我们正在考虑未来进行的改进包括：

• 健康检查状态 - 添加“健康检查状态”列，以帮助用户快速识别端点可用性问题。
• 操作 - 添加按钮，方便用户快速启用或禁用端点连接。提供带有 PatternFly 三点状图标的溢出菜单，包含编辑和删除功能。
• 详细信息 - 添加一个侧边抽屉面板，打开后可查看其他详细信息，如 API 密钥上次更改时间和分类路径链接。
• URL - 添加复制图标，以便用户快速复制 URL。
• 默认排序 - 包含将最近创建的内容排在最前面的功能

与模型聊天

在体验过程中，用户很多时候可能会希望与模型聊天。例如：

• 为了更好地了解模型响应中的信息缺口，请回答以下问题：模型中是否有我要查找的数据？
• 为了比较基础模型响应和自定义模型响应，请回答以下问题：我是否让模型变得更好？

最终，用户可能想要比较基础模型、使用 InstructLab 微调功能自定义的微调模型，以及整合 RAG 功能的 InstructLab 微调模型。

发现的问题：

第一次迭代版本仅提供非常基础的聊天机器人体验，无法查看来源信息和对模型响应采取行动，并且与模型端点工作流相隔离。该版本还缺少语音转文本无障碍访问功能。

1.4 版本中的应对方案：

聊天界面的改进包括直接从此工作流添加自定义模型端点的功能。

我们正在考虑未来进行的改进包括：

• 能够查看用于模型响应的来源并采取行动（喜欢、不喜欢、复制、下载和重新生成）
• 使用音频创建消息，而不是手动输入消息
• 提供额外的上下文帮助

下一步行动

许多令人兴奋的改进和新功能正在开发中：

• 合成数据生成与训练
• 对照基础模型评估新近微调的模型
• 无需使用 CLI 即可完成端到端调优

联系我们

我们始终秉承客户至上的理念，不断改进和完善对 RHEL AI。敬请关注未来版本中的更多增强功能。请注册参与未来的研究工作，分享您的 RHEL AI 使用体验。

此外，欢迎加入我们的 InstructLab 社区，查看我们的上游 UI（部分功能在此提供），并分享您的想法。我们非常期待与像您这样的用户交流。