为了信任和安全团队,Y Combinator支持的Intrinsic正在构建基础设施

AI7号 2024-01-11 2121

Chat中文版

几年前,Karine Mellata和Michael Lin在苹果公司的欺诈工程和算法风险团队工作时相识。作为工程师,Mellata和Lin参与解决苹果不断增长的客户群体面临的在线滥用问题,包括垃圾邮件、机器人、账号安全和开发者欺诈等。

尽管他们努力开发新模型以跟上不断变化的虐待模式,但Mellata和Lin觉得他们正在落后,并且陷入了重建信任和安全基础设施的核心要素的困境中。

“随着监管对团队采取更加严格的审查,要求他们集中处理一些临时信任和安全问题,我们看到了一个机会,可以帮助推动这个行业的现代化,为每个人打造更安全的互联网。”Mellata在一封电子邮件采访中向TechCrunch表示。“我们梦想着一个能够与滥用问题本身一样快速适应的系统。”

梅拉塔和林共同创办了Intrinsic公司,这家初创公司的目标是为安全团队提供必要的工具,以防止其产品上的滥用行为。Intrinsic最近在种子轮融资中筹集到310万美元,参与投资的有城市创新基金、Y Combinator、645 Ventures和Okta。

Intrinsic平台旨在对用户生成的内容和AI生成的内容进行管理,为客户(主要是社交媒体公司和电子商务市场)提供基础设施,以便检测和处理违反其政策的内容。Intrinsic专注于安全产品整合,自动协调诸如封禁用户和标记待审核内容等任务。

Mellata表示:“Intrinsic是一个完全可定制的人工智能内容审核平台。例如,Intrinsic可以帮助一家生成营销材料的出版公司避免提供金融建议,以避免法律责任。我们还可以帮助在线市场检测到像铜制指虎这样在加利福尼亚州是非法的,但在德克萨斯州却不是的商品。”

梅拉塔表示,针对这些细致类别,没有现成的分类器可用,即使是资源充足的信任与安全团队也需要几周甚至几个月的工程时间来自行添加新的自动化检测类别。

被问及像Spectrum Labs、Azure和Cinder这样的竞争平台时(几乎是直接竞争对手),Mellata表示她认为Intrinsic在其(1)可解释性和(2)工具的大幅拓展方面与众不同。她解释说,Intrinsic允许客户“询问”其在内容审查决策中所犯的错误,并提供其推理的解释。该平台还托管手动审核和标记工具,允许客户根据自己的数据对审查模型进行微调。

“大多数传统的信任与安全解决方案缺乏灵活性,并且没有随着滥用情况的发展而进行改进。” Mellata说道。“资源有限的信任与安全团队迫切需要供应商的帮助,并希望在保持高安全标准的同时降低审查成本。”

在没有第三方审计的情况下,很难确定一个供应商的内容管理模型有多准确,以及它们是否容易受到困扰其他地方的内容管理模型所存在的偏见。但是,Intrinsic似乎正在取得进展,因为有“大型、成熟”的企业客户签署了平均在“六位数”范围内的合同。

Intrinsic的近期计划是扩大三人团队的规模,并扩展其审查技术的范围,不仅包括文本和图片,还包括视频和音频。

“科技行业整体放缓引发了对于信任和安全自动化的更多兴趣,这使得Intrinsic处于独特的位置,”Mellata说道。“首席运营官关心降低成本,首席合规官关心降低风险。Intrinsic可以同时满足这两方需求。我们的成本更低、速度更快,同时能够比现有供应商或内部解决方案更好地捕捉到滥用行为。”

推荐阅读

技术人员在产品创新中扮演的挑战性角色

2024-01-11 1110
Chat中文版

反对伪装的爱心主义

2024-01-11 1822
Chat中文版

推动力来自于 "科学造福人类" 的理念,这家中国人工智能初创公司将目光投向美国

2024-01-11 1391
Chat中文版

谷歌力图解决德国关于其汽车服务捆绑的竞争问题

2024-01-11 1878
Chat中文版

Arkon Energy筹集1.1亿美元,扩大美国比特币挖掘能力,并在挪威推出人工智能云服务

2024-01-11 1769
Chat中文版