业务优势和挑战
AI/ML 越来越多地被用于简化、改进和扩展各种业务功能,包括:
- 数据和分析:AI/ML 可以实现数据录入、存储和安全防护的自动化,还可以收集预测性业务分析。
- 客户支持:聊天机器人和呼叫分类系统使用自然语言处理(NLP)快速为客户提供服务,并将复杂的请求提升到相应的渠道。
- 运维:机器人流程自动化(RPA)是指使用软件机器人执行之前由人类完成的重复性任务。通过与 AI 技术结合使用,它能够以手动流程无法比拟的速度和准确性解析非结构化数据集。
- 营销和销售:深度学习算法可以帮助营销人员收集对消费者的分析数据,为制定策略和开展个性化营销活动提供数据依据。AI 可以通过处理信息帮助销售人员快速开发潜在客户。
- 人力资源:在招聘过程中,根据基础 AI 模型训练的机器人在审查候选人简历时很有用。还可以将人工神经网络用于对员工满意度调查结果进行收集和分析,以便快速实施积极的变革。
在实施上述解决方案及其他解决方案时,重要的是要克服 AI/ML 面临的常见挑战,包括偏见和“黑匣子”AI。这些缺陷在医疗卫生、刑事司法和金融等受监管行业尤其容易造成问题。随着越来越多的企业组织通过部署 AI/ML 计划来提高生产力和性能,重要的是制定相关策略以最大限度地减少偏见并提高透明度。这始于频繁的再培训和维护,以及包容性的设计过程,并且要深远地考虑所收集的数据是否代表足够的多样性。
红帽资源
AI/ML 在医疗卫生行业的应用
AI 技术的进步可以帮助医生及其他医疗从业者提供更准确的诊断和治疗方案,从而改善患者的治疗效果。医疗卫生 AI 可从以下几个方面为患者、提供方和管理方带来助益:
- 更快地诊断:由 AI 算法处理的数据见解和实时的预测分析可用于提高诊断速度,这意味着患者可以更快地得到治疗。
- 拓展获取医疗服务的渠道:AI 辅助诊断可以扩大接受服务的患者群体。例如,AI 辅助的放射学和医学影像可以让更多的专业人员来解读超声波影像结果,减少对少数专家的依赖,让更多的患者能够受益于这项技术。
- 药物研发和临床研究:计算型 AI 工具可以增强临床研究和药物研发的传统试错法,且可利用更快、更高效的模型来监控整个过程。
AI/ML 在电信行业的应用
AI/ML 越来越多地被用于简化电信行业的不同部分,例如优化 5G 网络性能以及提高电信产品和服务的质量。相关应用包括:
- 服务质量:利用 AI 进行网络性能优化,获取电信提供商收集的数据,并对其流量、速度减慢和中断进行分析。然后,它可以使用这些数据来推荐必要的操作。
- 音频/视频效果增强:自然语言处理和计算机视觉可以提高视频和语音的清晰度,从而提高通话质量。
- 防止客户流失:语音识别技术可以监听与现有客户和潜在客户的电话,并进行情绪分析,以了解有助于成交或续订的行为。这一用途也适用于其他行业。
AI/ML 在制造业的应用
从工厂车间到仓储设施和运输路线,智能自动化正在改变企业制造产品的方式。
- 机器人:工厂和制造中心通过安装工业机器人来减轻重复性或危险性工作给人类工人带来的负担,例如包裹分拣和操作重型机械。这也可以降低人为失误带来的风险。
- 供应链管理:机器学习技术可以审查供应链物流并进行库存管理,以预测最佳的运输和备货时间。
- 工业分析:工业分析可以依靠 AI/ML 算法评估整个制造过程的性能,以发现瓶颈并实施更高效的工作流。
AI/ML 在政府机构的应用
人工智能和机器学习正在帮助世界各地的政府机构应对重大挑战,并为公众利益服务。
- 改善公共服务:AI/ML 工具可以收集有关公共服务(如交通、卫生和社会服务)的使用和效率数据,并利用这些数据推出新服务以及优化现有服务。
- 数据管理:自然语言处理对公共记录的分类和管理很有帮助,该工具可减少理解定性数据所需的时间和精力。基于 AI 的网络安全解决方案还可以减少威胁暴露,并加快对事件的响应速度,以更好地保护公共数据的安全。
- 数据驱动的决策:借助人工智能和机器学习的预测能力,可通过以数据为依据的预测和循证解决方案为公共政策提供信息。
AI/ML 在零售和电子商务业的应用
消费者每天都会在零售和电子商务网站上使用 AI/ML 功能。AI/ML 在我们购物时的用途包括:
- 个性化推荐:AI/ML 会在线跟踪客户行为,并利用这些信息通过数字广告或现场互动提供个性化推荐。
- 聊天机器人:聊天机器人可以作为实用的客户体验工具,也可以充当自动销售助理。聊天机器人利用自然语言处理来了解用户的需求并帮助用户寻找他们想要的商品。
- 自助结账:一些企业使用 AI 技术,通过对商品进行视觉扫描并将正确的费用计入客户的账户,进一步简化自助结账。
AI/ML 在自动驾驶汽车行业的应用
随着电动汽车和自动驾驶汽车越来越受欢迎,人们对安全且创新的程序的需求也随之增长,从而确保顺利到达目的地。
- 车辆感知和驾驶辅助:盲点检测器和智能制动系统等计算机视觉工具可以帮助驾驶员检测周围的物体(包括其他汽车、行人和路障)并对其做出反应。
- 自动驾驶汽车:从自适应巡航控制和导航到车道偏离系统和自动制动,AI/ML 技术对于确保自动驾驶汽车对驾驶员及其周围人的安全至关重要。
- 预测性维护:机器学习算法收集来自车辆的数据,以预测哪些部件最有可能发生故障,并提前推荐合适的保养方式。
AI/ML 在教育机构的应用
ChatGPT 等 NLP 技术在学术写作和学术研究中广受欢迎,不过,AI/ML 在教学领域的应用场景还有很多。
- 智能课程设计:生成式 AI 可以帮助教育工作者研究和整理课程的必要元素。它还可以生成课程内容和作业。
- 研究助理:开展研究时,AI 工具可以充当虚拟助理,帮助在互联网和数据库中搜索相关学习资料,并找出感兴趣的特定领域。
- 辅导:AI/ML 可以通过创建学习资料和个性化知识检查,帮助更多有需要的学生获得辅导。
AI/ML 在金融业的应用
如今,金融服务机构使用 AI/ML 来开发应用,以提供可衡量的成果,如提高客户满意度、提供多样化服务和改进业务自动化。
- 欺诈检测:银行依靠机器学习来检测欺诈和不安全的交易,并实时提醒客户。语音身份验证可学习用户独特的语音模式,以保护账户并只允许获得授权的用户访问。
- 开票:AI 可自动完成重复性的开票和管理任务,从而降低成本并减少错误。
- 投资:投资公司在使用深度学习来研究投资机会,并增强算法以实现更准确的预测。
解决方案模式:利用红帽技术和 NVIDIA AI Enterprise 构建 AI 应用
创建 RAG 应用
红帽 OpenShift AI 是一个用于构建数据科学项目并为依托 AI 的应用提供服务的平台。您可以集成支持检索增强生成(RAG)所需的所有工具,这是一种从自己的参考文档中获取 AI 答案的方法。将 OpenShift AI 与 NVIDIA AI Enterprise 关联后,您可以尝试各种大语言模型(LLM),以找到适用于您应用的最佳模型。
构建文档处理管道
要使用 RAG,需要先将文档导入向量数据库。在示例应用中,我们将一组产品文档嵌入了 Redis 数据库。由于这些文档经常更改,我们可以为此过程创建一个管道并定期运行,以确保始终拥有最新版本的文档。
浏览 LLM 目录
NVIDIA AI Enterprise 支持访问不同 LLM 的目录,因此您可以尝试不同的选择,并选取能够提供最佳效果的模型。这些模型托管在 NVIDIA API 目录中。设置 API 令牌后,您就可以直接从 OpenShift AI 使用 NVIDIA NIM 模型服务平台来部署模型。
选择合适的模型
在测试不同的 LLM 时,您可以让用户对每个生成的响应进行评分。您还可以设置一个 Grafana 监控面板,用于比较各个模型的评分、延迟和响应时间。然后,您就可以根据这些数据来选择最适合在生产环境中使用的 LLM。

红帽官方博客
获取有关我们的客户、合作伙伴和社区生态系统的最新信息。