谷歌推出了一款由人工智能驱动的图片生成器

泰勒·斯威夫特的深度伪造毫不在乎，谷歌将推出一款新的基于人工智能的图像创作工具，名为ImageFX。

基于谷歌DeepMind团队开发的GenAI图像模型Imagen 2的支持，ImageFX提供了一个以提示为基础的用户界面，用于创建和编辑图像。这与OpenAI的DALL-E 3、Midjourney、Meta的Imagine with Meta AI和Microsoft Designer等工具没有什么不同。但ImageFX的独特之处在于“表达芯片”-基本上是一系列关键词建议，让用户可以尝试他们创作和想法的“相邻维度”。

“ImageFX旨在为实验和创造力而设计，它允许您通过简单的文本提示创建图像，然后使用表达性芯片轻松地修改它们，”谷歌在一篇博文中写道。

但是在最近的事件光下，滥用的可能性如何呢？

谷歌声称已采取措施确保ImageFX不会被用于其原本意图以外的方式，例如通过添加“技术保障”来限制产生暴力、冒犯和色情内容之类的“问题输出”。ImageFX还配备了一个可以识别“具名人物”的过滤器，可能是指公众人物，尽管谷歌在其新闻资料中并没有特别明确这一点。

谷歌表示：“我们从一开始就投资于训练数据的安全性。”“与我们的AI原则保持一致，我们还进行了广泛的敌对测试和红队行动，以识别和减轻潜在的有害和有问题的内容。”

作为一种额外的安全措施，谷歌使用ImageFX生成的图像进行标记，并使用SynthID进行数字水印，据称该水印对于图像编辑和裁剪具有强大的稳固性。

在博客文章中Google继续说道：“SynthID水印对人眼是无法察觉的，但可以用于识别。通过在《关于这张图片》提供更多的信息，当你在谷歌搜索或Chrome中遇到一张可能是由谷歌的AI工具生成的图片时，你将知道这一点。”

你可以在AI测试厨房中找到ImageFX，这是Google用于实验性人工智能项目的网络应用程序。

图像2扩展了

在相关新闻中，谷歌表示将在本周开始将Imagen 2引入更多的产品和服务中，包括其下一代人工智能搜索体验和管理人工智能服务Vertex AI系列。

Imagen 2现在还为Google广告和Workspace的Duet AI提供文本转图像功能，它是Google生产力套件GenAI中的一部分。它已经整合到Google的SGE（搜索生成体验）中。SGE从去年10月开始，在Google图片搜索中为用户提供图像生成工具，现在借助Imagen 2来生成图像。用户可以输入一个提示来指定他们想要的图像类型，SGE将在对话体验中直接返回四个结果。

在Vertex AI中，Imagen 2可以通过API提供给Google Cloud的客户使用。而在其他地方，Imagen 2现在可以通过Bard（谷歌的人工智能驱动聊天机器人）来调用。

“谷歌解释说，使用Imagen 2，巴德能够理解简单或复杂的提示，从而可以生成一系列高质量的图像。”谷歌解释道。“只需输入描述，比如‘创建一张狗骑着冲浪板的图片’，巴德将生成定制的、广泛的视觉效果，帮助实现你的创意。”

谷歌仍未公开用于训练Imagen 2的数据，这虽然令人失望，但并不意外。对于像谷歌这样的通用AI供应商来说，他们能否使用公开可用的甚至带有版权的数据进行模型训练，然后再进行商业化利用，这是一个法律上的悬而未决的问题。

相关的诉讼案正在法院逐步进行中，供应商们辩称他们受到合理使用原则的保护。但是在尘埃落定之前还需要一段时间。

与此同时，谷歌选择保持沉默以确保安全。