阿米拉希望为公司提供人工智能的保修

AI7号 2024-02-16 3067

Chat中文版

GenAI(通用人工智能)存在许多问题,尤其是第三方GenAI。它会编造东西,存在偏见和有害内容。而且它可能违反版权规定。根据MIT Sloan Management Review和波士顿咨询集团的一项最新调查,第三方人工智能工具导致了组织中超过55%的与人工智能相关的失败案例。

所以,一些公司还不敢轻易采用这项技术,这并不奇怪。

但是如果GenAI附带保修呢?

这是几年前在德勤担任高级经理时,创业家兼电气工程师Karthik Ramakrishnan提出的商业理念。他曾共同创办了两家“以人工智能为先”的公司,Gallop Labs和Blu Trumpet,并最终意识到信任和能够量化风险是限制人工智能发展的因素。

“目前,几乎每个企业都在寻找方式来实施人工智能以提高效率并跟上市场,”Ramakrishnan在电子邮件采访中告诉TechCrunch。“为了做到这一点,许多企业转向第三方供应商,并在没有完全了解产品质量的情况下实施他们的人工智能模型...人工智能正在以如此迅猛的速度发展,风险和危害也在不断演变。”

所以Ramakrishnan与Dan Adamson合作,他是搜索算法和两次创业创始人方面的专家,共同创办了Armilla AI,为企业客户提供人工智能模型的保修服务。

也许你会想,由于大多数模型都是封闭的或者被封锁在许可证、订阅和API之后,阿米利亚如何做到这一点呢?我也有同样的疑问。拉马克里什南的回答是通过基准测试,并采用了小心谨慎的客户获取策略。

Armilla采用一个模型(无论是开源还是专有),并根据全球人工智能监管环境进行评估,以“验证其质量”。该公司在一系列理论应用和用例中测试虚幻、种族和性别偏见、公平性、总体鲁棒性和安全性等问题,并利用其内部评估技术。

Chat中文版

如果该模型通过审核,阿米拉将提供其保修服务,该保修服务将对购买该模型的买家支付的任何使用费进行赔偿。

“我们真正向企业提供的是对从第三方AI供应商采购的技术的信心,”Ramakrishnan说道。“企业可以来找我们,让我们对他们准备使用的供应商进行评估。就像他们对新技术进行渗透测试一样,我们对AI进行渗透测试。”

顺便问了一下Ramakrishnan,是否因为道德原因,Armilla不会测试某些模型,例如来自与可疑行为者有业务往来的供应商的人脸识别算法。他回答说:

“这不仅违背我们的道德准则,也违背我们的商业模式,我们的商业模式是基于信任的,无法为客户和社会提供对有问题的AI模型产生虚假信心的评估和报告。从法律角度来看,我们不会为那些被欧盟禁止的、被取缔的模型的客户提供服务,比如一些面部识别和生物识别系统,但那些被欧盟AI法案定义为‘高风险’类别的应用,我们是可以接受的。”

现在,对于人工智能的担保和政策覆盖的概念并不新鲜,这事实让笔者感到惊讶。去年,Munich Re推出了一款名为aiSure的保险产品,旨在通过运行类似于Armilla的基准测试来保护免受潜在不可靠的AI模型造成的损失。除了担保外,包括OpenAI、Microsoft和AWS在内的越来越多的供应商还提供与部署他们的人工智能工具相关的版权侵权保护。

但是拉马克里什南声称,阿米拉的方法是独一无二的。

他补充说:“我们的评估涉及多个领域,包括绩效指标、流程、绩效、数据质量以及定性和定量标准,并且我们能在较低的成本和时间内完成。” “我们根据欧盟AI法案或纽约AI招聘偏见法-纽约本地法规144等立法文件设定的要求评估AI模型,同时也根据科罗拉多州拟议的AI定量测试规定或纽约关于在核保或定价中使用AI的保险通报进行评估。我们还将根据新出台的其他监管要求进行评估,如加拿大的AI和数据法案。”

Armilla是由瑞士再保险、绿灯再保险和肖切尔公司支持的,于2023年末开始提供服务。据称,Armilla目前已经拥有约十个客户,其中包括一家将GenAI应用于处理医疗记录的医疗公司。Ramakrishnan告诉我,自2023年第四季度以来,Armilla的客户数量每个月增长2倍。

"我们的主要服务对象分为两类:企业和第三方人工智能供应商," Ramakrishnan 说道。"企业使用我们的保修来确保他们采购的第三方人工智能供应商的保护。第三方供应商则使用我们的保修作为对他们产品可信度的认证,从而有助于缩短销售周期。"

AI的保证在直观上是有道理的。但我有一部分疑虑,即Armilla是否能够跟上快速变化的AI政策(例如纽约市的招聘算法偏见法律、欧盟的AI法案等),如果它的评估和合同不够完善,可能会让它承担巨额赔偿责任。

拉马克里希南毫不理会这一担忧。

他说:“在许多司法管辖区,监管正在独立迅速地发展,了解全球各地立法的细微差别至关重要。没有一个适用于全球的‘一刀切’标准,因此我们需要将它们统统整合起来。这是具有挑战性的,但也有为我们创造‘护城河’的好处。”

Armilla总部位于多伦多,拥有13名员工。最近,该公司通过种子轮融资筹集了450万美元,由Mistral(不要与同名的AI初创公司混淆)领投,Greycroft、Differential Venture Capital、Mozilla Ventures、Betaworks Ventures、MS&AD Ventures、630 Ventures、Morgan Creek Digital、Y Combinator、Greenlight Re和Chaucer参投。总共筹集的资金达到700万美元。Ramakrishnan表示,这笔资金将用于扩大Armilla现有的保修产品,同时推出新产品。

“保险将在应对人工智能风险方面发挥最大作用,而Armilla正处于开发保险产品的前沿,这将使公司能够安全地部署人工智能解决方案。”Ramakrishnan说道。

推荐阅读

Kong的新开源AI Gateway使构建多LLM应用更加容易

2024-02-16 607
Chat中文版

谷歌的新款Gemini模型可以分析一个小时长的视频,但很少有人能够使用它

2024-02-16 1604
Chat中文版

谷歌向开发者提供更多Gemini模型

2024-02-16 3000
Chat中文版

公告是一个新的由人工智能驱动的新闻阅读器,致力于解决标题党问题并提供新闻摘要

2024-02-16 2929
Chat中文版

迄今最大的文本转语音人工智能模型展现了“突现能力”

2024-02-15 287
Chat中文版