BigPanda推出专为IT运维设计的生成式人工智能工具
IT运维人员的工作量很大,一旦发生导致关键系统崩溃的事故,时间就会成为他们的敌人。多年来,公司一直在寻找更快速解决常见问题的策略,并且进行事后总结以避免重复,但并非所有问题都能轻松解决,而且数据量巨大,可能出现故障的点也很多。
这实际上是一个适合生成式人工智能解决的完美问题,AIOps初创公司BigPanda今天宣布推出了一款名为Biggy的新生成式人工智能工具,以帮助更快地解决一些这些问题。Biggy的设计目的是跨越各种IT相关数据,学习公司的运营方式,并将其与问题场景及其他类似场景进行比较,并提出解决方案。
BigPanda自公司成立之初就开始使用人工智能,并特意设计了两个独立系统:一个用于数据层,另一个用于人工智能。这种方式使他们为基于大型语言模型的生成式人工智能转变做好了准备。BigPanda首席执行官Assaf Resnick告诉TechCrunch:“在生成式人工智能之前,AI引擎构建了许多其他类型的人工智能,但它在利用的是与我们在Biggy项目和生成式对话人工智能中使用的相同数据引擎。”
像大多数生成式AI工具一样,这款工具提供了一个提示框,用户可以在其中提问并与机器人交互。在这种情况下,基础模型已经在客户公司内部的数据上进行了训练,还有在特定的硬件或软件的公开数据上进行了训练,并且针对IT在日常工作中处理的各种问题进行了调整。
“这些现成的LLMs已经在大量数据上训练过,实际上在我们关注的所有运营领域中都非常擅长 - 基础设施、网络、应用程序开发等等。 它们实际上对所有硬件都非常了解,”BigPanda的首席创新官杰森·沃克表示。“所以,如果你询问它关于某台带有特定错误代码的惠普刀片服务器,它在整理出答案方面做得相当不错,我们用它来处理大量事件流量。”当然,这还不止于此,否则一个人类工程师可以直接使用谷歌搜索解决这个问题。
它将这些知识与在各种数据类型中能够内部提炼的信息相结合。“BigPanda从可观察性、变化、CDMB(存储配置信息的文件)和拓扑结构等多个数据源中摄取客户的运营和情境数据,同时还包括历史数据和人类、机构的背景信息,并将数据标准化为键-值对,或标签,”沃克表示。这听起来很专业,但基本上意味着它会查看系统级别信息、组织数据和人类互动,以提供帮助工程师解决问题的响应。
当用户输入提示时,系统会查看所有数据,生成一个答案,希望指引工程师朝着正确的方向解决问题。他们承认并非总是完美,因为通用人工智能并非完美无缺,但当答案正确的准确度较低时,会告知用户。
Resnick说:“对于我们认为缺乏确定性的领域,我们会告诉他们这是我们的最佳信息,但是需要人类来审视。”对于其他更加确定的领域,他们可能会引入自动化,使用类似Red Hat Ansible的工具来解决问题,减少人类干预。
数据摄取部分对客户来说并不总是一件简单的事情,这是向提供一个能帮助IT定位问题根源并更快速解决问题的AI助手迈出的第一步。没有任何AI是绝对可靠的,但拥有一个互动式的AI工具应该会比目前更耗时的手动方式来解决IT系统故障问题有所改善。