Distributional想要开发软件来降低人工智能风险

公司对人工智能及其潜在的提升生产力的方式越来越感兴趣。但他们也对此存在风险持谨慎态度。在最近的一项Workday调查中，企业提到了实施人工智能的最大障碍，其中包括底层数据的及时性和可靠性、潜在的偏见以及安全和隐私问题。

斯科特·克拉克察觉到了一个商机，他之前共同创立了AI训练和实验平台SigOpt（该平台于2020年被英特尔收购），他开始着手构建被他描述为“使AI安全、可靠和安全的软件”。克拉克成立了一家名为Distributional的公司，以推出最初版本的这款软件，并致力于将其扩展和标准化应用于不同的AI场景。

Distributional正在构建现代AI测试和评估的企业平台，"Clark在一次电子邮件采访中告诉TechCrunch。"随着AI应用的能力增长，潜在的危害风险也在增加。我们的平台旨在帮助AI产品团队在其影响客户生产前主动和持续地识别、理解和解决AI风险。

在Intel收购SigOpt后，Clark在遇到与技术相关的AI挑战后受到启发，决定创办Distributional。作为英特尔的副总裁和人工智能与高性能计算总经理，他发现几乎不可能确保高质量的AI测试能够按规律进行。

克拉克继续说：“从我的各种经历中我得出的教训表明了对于人工智能的测试和评估的需求。不论是因为幻觉、不稳定性、不准确性、整合问题或其他种种潜在挑战，团队经常难以通过测试来识别、理解和解决人工智能风险。适当的人工智能测试需要深度和分布式的理解，这是一个难题要解决。”

Distributional的核心产品旨在从大型语言模型（如OpenAI的ChatGPT）和其他类型的AI模型中检测和诊断AI“伤害”，试图半自动地找出测试模型的内容、方式和位置。Clark表示，该软件为组织提供了对AI风险的“全面”视图，在一个类似沙盘的预生产环境中进行。

克拉克表示：“大多数团队选择承担模型行为风险，并接受模型存在问题的事实。”“有些团队可能会尝试临时手动测试来发现这些问题，但这样会耗费大量资源，组织混乱，并且本质上是不完整的。其他团队可能会尝试在AI投入生产后通过被动监控工具 passively catching这些问题…因此，我们的平台提供了可扩展的测试框架，以持续测试和分析稳定性和鲁棒性，可配置的测试仪表盘来可视化和理解测试结果，以及智能测试套件来设计、优先排序和生成正确的测试组合。”

现在，克拉克对于这整个工作的细节有些模糊，并且Distributional的整体平台概要也未明确。他辩称这还处于非常早期阶段；Distributional仍在与企业合作伙伴共同设计产品的过程中。

考虑到Distributional目前无营收、无上线产品、无付费客户，它又如何能够与市场上已有的AI测试和评估平台竞争呢？毕竟市面上有很多类似的平台，包括Kolena、Prolific、Giskard和Patronus等，其中很多都有充足的资金支持。而且，如果竞争还不够激烈，科技巨头如Google Cloud、AWS和Azure也提供了模型评估工具。

克拉克表示，他相信Distributional在软件企业方面具有差异化。他说：“从一开始，我们就正在构建能够满足大型企业在无监管和高度监管行业中的数据隐私、可扩展性和复杂性要求的软件。”“我们正在为我们的产品设计的企业类型具有超越市场现有提供的以个人开发人员为重点的工具的要求。”

如果一切按计划进行，一旦Distributional的平台正式推出并有一些设计合作伙伴转变为付费客户，该公司将在明年开始产生收入。与此同时，这家初创公司正在从风险投资机构筹集资金。Distributional今天宣布，他们已经完成了由Andreessen Horowitz的Martin Casado领导的1100万美元种子轮融资，Operator Stack、Point72 Ventures、SV Angel、Two Sigma以及天使投资者也参与其中。

“我们希望为我们的客户引入一个良性循环”，克拉克说道。“通过更好的测试，团队将更有信心将人工智能应用于他们的应用程序中。随着他们使用更多的人工智能，其影响将呈指数级增长。当他们看到这种影响扩大时，他们将把它应用于更复杂和有意义的问题，这反过来又需要更多的测试来确保其安全、可靠和安全。”