驾驭新一代人工智能浪潮：在降低风险的同时取得成功-千家网

来源：千家网 2023-10-18

导读

近年来，人工智能（AI）在企业和行业中越来越受到关注。企业使用人工智能的方式也从专注于特定、重复性任务的传统算法（狭义人工智能）发展到新时代的生成式人工智能模型，这些模型经过预先训练，可以执行广泛的预定义任务和来生成新的内容。

近年来，人工智能（AI）在企业和行业中越来越受到关注。企业使用人工智能的方式也从专注于特定、重复性任务的传统算法（狭义人工智能）发展到新时代的生成式人工智能模型，这些模型经过预先训练，可以执行广泛的预定义任务和来生成新的内容。向通用人工智能（AGI）的进化仍然很遥远，其中智能体将有能力定义任务并与人类认知相媲美。然而，当前生成式人工智能的创新及其所代表的能力，标志着通用人工智能发展的一个关键里程碑。

生成式人工智能无处不在

在一份报告发现，生成式人工智能领域的资金在2022年同比增长高达12倍，使其成为该领域资金最多的一年。与传统人工智能不同，生成式人工智能算法提升了知识工作并产生更大的影响，特别是在内容创建、内容发现、增强对话式人工智能和人工智能模拟方面。因此，生成式人工智能为增强客户或员工体验并快速加速任何企业的创新周期提供了多种机会。例如，一个流行的用例是部署在呼叫中心的联络中心技术。

到目前为止，聊天机器人等对话式人工智能界面已用于基本的客户互动。现在，有了生成式人工智能，虚拟服务助理可以从客户电话中带来更复杂的见解和更广泛的互动，这可以帮助进行总结、翻译、情感提取、呼叫反馈以提高座席的自我完善，以及在互动过程中提供客户特定的见解。

潜力中的陷阱

任何革命性趋势一样，生成式人工智能不仅为企业在扩大服务领域方面带来了巨大潜力，但也带来了某些陷阱。企业必须认识到某些特定的挑战，例如道德问题、幻觉、数据泄露威胁和监管不足等。虽然传统人工智能也存在这些挑战，但对于生成式人工智能用例来说，这些挑战更加微妙。

负责任地使用人工智能

为了最佳地利用该技术的优势，必须考虑某些因素。以下是确保生成式人工智能技术得到最优和最负责任地使用的重要因素：

建立正确的数据基础

由于人工智能技术的强大程度取决于其所提供的数据，因此拥有强大的数据至关重要。

建立在数据质量、准确性、可访问性和互操作性之上的强大数据基础至关重要。为了避免生成式人工智能的陷阱，企业需要确保无缝集成各种来源的数据，以形成为业务决策提供信息的基本要素和结构。

在使用生成式人工智能时，企业必然会发现更细致的交互或超个性化的承诺和好处。然而，在此过程中，他们还必须确保客户数据和个人身份信息(PII)不被泄露。

广泛的输入和输出验证

从生成式人工智能中获得最佳结果的一个关键方面是提示工程，这本质上意味着拥有正确的提示序列和设计、提示模板，可以帮助简化和优化技术的使用方式。但这里的一个固有风险是确保提示不会因提示注入、提示泄露或越狱而被黑客攻击。即时注入意味着注入有害文本来操纵输出、泄露关键信息的摘录以及绕过内置安全措施进行越狱。

由于一些流行的大语言模型（LLM）要么是无监督的，要么是半监督的，因此存在幻觉和不适当输出的风险。随着企业从新一代人工智能探索转向大规模部署，他们必须制定指导方针，包括提示过滤、反馈和输出验证的人机交互流程以及幻觉监控。

CIBIS峰会

由千家网主办的2023年第24届CIBIS建筑智能化峰会即将正式拉开帷幕，本届峰会主题为“智慧连接，‘筑’就未来”，将携手全球知名智能化品牌及业内专家，共同探讨物联网、AI、云计算、大数据、IoT、智慧建筑、智能家居、智慧安防等热点话题与最新技术应用，分享如何利用更知慧、更高效、更安全的智慧连接技术，“筑”就未来美好智慧生活。欢迎建筑智能化行业同仁报名参会，分享交流！