<p>埃隆·马斯克的 Grok 在周二晚上发布了一个新的 AI 图像生成功能，就像 AI 聊天机器人一样，几乎没有多少保障。这意味着你可以生成唐纳德·特朗普在乔·罗根秀上吸大麻的假图片，然后直接上传到 X 平台。但一个新创企业是这个具有争议性功能背后的推手。</p>
<p>社交媒体网站已经被这一新功能的荒谬图片淹没。这无疑引起了人们对即将到来的选举周期的担忧，但严格来说，这并不是真正由埃隆·马斯克的 AI 公司支持这种疯狂。马斯克似乎找到了一家与他对 Grok 的愿景相符的公司，这家公司没有 OpenAI 的 Dall-E 或谷歌的 Imagen 中严格的防范措施。周二，xAI 宣布与 Black Forest Labs 合作，后者是一家于 8 月 1 日推出的 AI 图像和视频创业公司，使用其 FLUX.1 模型来驱动 Grok 的图像生成器。</p>
<p>看起来 Grok 的 AI 图像生成器已经上线。是的，正如预期的那样，几乎没有多少保障。pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) 2024 年 8 月 14 日</p>
<p>Black Forest Labs 总部位于德国，最近以 3100 万美元的种子轮融资正式亮相，由安德森·霍洛维茨（Andreessen Horowitz）领投，其他知名投资者包括 Y Combinator 首席执行官 Garry Tan 和前 Oculus 首席执行官 Brandan Iribe。这家初创公司的联合创始人罗宾·隆巴赫（Robin Rombach）、帕特里克·埃瑟（Patrick Esser）和安德烈亚斯·布拉特曼（Andreas Blattmann）曾是帮助创建 Stability AI 的 Stable Diffusion 模型的研究人员。</p>
<p>根据人工分析，Black Forest Lab 的 FLUX.1 模型在质量上超过了 Midjourney 和 OpenAI 的 AI 图像生成器，至少在用户在其图像领域中的排名中是如此。</p>
<p>该初创公司表示正在 “向广大受众提供我们的模型”，在 Hugging Face 和 GitHub 上提供开源 AI 图像生成模型。公司表示很快计划创建一个文本到视频模型。</p>
<p>Black Forest Labs 没有立即回应 TechCrunch 的置评请求。</p>
<p>天啊。Grok 的图像生成器绝对没有任何过滤器。这是我见过的最鲁莽和不负责任的 AI 实现之一。pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) 2024 年 8 月 14 日</p>
<p>在其发布声明中，该公司表示旨在 “增强对这些模型安全性的信任”，然而，一些人可能会说，周三在 X 上涌现的大量 AI 生成的图片恰恰相反。许多用户使用 Grok 和 Black Forest Labs 的工具创建的图片，比如皮博卡憋着突击步枪，无法用谷歌或 OpenAI 的图像生成器重新创建。毫无疑问，该模型的训练中使用了受版权保护的图像。</p>
<h2>这似乎是关键所在</h2>
<p>这种缺乏保障很可能是马斯克选择这个合作伙伴的一个主要原因。马斯克明确表示，他认为保障实际上会使 AI 模型变得不太安全。“训练 AI 变得唤醒的危险 - 换句话说，撒谎 - 是致命的，” 马斯克在 2022 年的一条推文中说。</p>
<p>Black Forest Labs 董事会董事安杰尼·米达在 X 上发布了一系列比较，比较了谷歌 Gemini 和 Grok 的 Flux 合作在发布第一天生成的图片。该帖子突出了谷歌 Gemini 在创建历史准确图片方面存在的问题，特别是通过不适当地向图片中注入种族多样性。</p>
<p>“我很高兴 @ibab 和团队认真对待并做出了正确选择，” 米达在一条推文中说，指的是 FLUX.1 似乎避免了这个问题（并提到了 xAI 首席研究员伊戈尔·巴布舒金的账户）。</p>
<p>由于这个失误，谷歌在 2 月向 Gemini 道歉并关闭了其生成人物图片的功能。截至今天，该公司仍不允许 Gemini 生成人物图片。</p>
<h2>一股错误信息的洪流</h2>
<p>这种普遍缺乏保障可能会给马斯克带来麻烦。当 AI 生成的深度伪造图片在平台上传播代表泰勒·斯威夫特时，X 平台受到了批评。除了那一事件，Grok 几乎每周都会生成让用户看到的幻觉般的头条新闻。</p>
<p>就在上周，五位州务卿敦促 X 停止在 X 上传播关于卡玛拉·哈里斯的错误信息。本月早些时候，马斯克转发了一个使用 AI 克隆哈里斯声音的视频，使副总统似乎承认自己是 “多元化招聘”。</p>
<p>马斯克似乎打算让这种错误信息充斥平台。通过允许用户在平台上直接发布 Grok 的 AI 图片，这些图片似乎没有任何水印，他实质上打开了一个指向每个人 X 新闻源的错误信息的水龙头。</p>

OpenAI

特斯拉

<p>埃隆·马斯克的人工智能公司 xAI 推出了一个新的图像生成功能，由 Black Forest Labs 的 FLUX.1 模型驱动，由于缺乏安全防护措施而备受争议。该功能允许用户生成误导性和令人震惊的图像，引发了对于误导信息的担忧，尤其是在选举周期之前。最近获得 500 万美元资金支持的 Black Forest Labs 由前 Stability AI 研究人员领导，承诺提供高质量模型，但缺乏像 OpenAI 这样竞争对手中的保护措施。批评者担心这可能会加剧 X 平台上的误导信息问题</p>

<p>Elon Musk’s Grok released a new AI image generation feature on Tuesday night that, just like the AI chatbot, has very few safeguards. That means you can generate fake images of Donald Trump smoking marijuana on the Joe Rogan Show, for example, and upload it straight to the X platform. But a new startup is the one behind the controversial feature.</p>
<div class="lb-trans"><p>埃隆·马斯克的 Grok 在周二晚上发布了一个新的 AI 图像生成功能，就像 AI 聊天机器人一样，几乎没有多少保障。这意味着你可以生成唐纳德·特朗普在乔·罗根秀上吸大麻的假图片，然后直接上传到 X 平台。但一个新创企业是这个具有争议性功能背后的推手。</p>
</div><p>The social media site is already flooded with outrageous images from the new feature. That certainly raises concerns heading into an election cycle, but strictly speaking it’s not really Elon Musk’s AI company powering the madness. Musk seems to have found a company that sympathizes with his vision for Grok as an “anti-woke chatbot” without the strict guardrails found in OpenAI’s Dall-E or Google’s Imagen. On Tuesday, xAI announced a collaboration with Black Forest Labs, an AI image and video startup launched on August 1, to power Grok’s image generator using its FLUX.1 model.</p>
<blockquote>
</blockquote>
<div class="lb-trans"><p>社交媒体网站已经被这一新功能的荒谬图片淹没。这无疑引起了人们对即将到来的选举周期的担忧，但严格来说，这并不是真正由埃隆·马斯克的 AI 公司支持这种疯狂。马斯克似乎找到了一家与他对 Grok 的愿景相符的公司，这家公司没有 OpenAI 的 Dall-E 或谷歌的 Imagen 中严格的防范措施。周二，xAI 宣布与 Black Forest Labs 合作，后者是一家于 8 月 1 日推出的 AI 图像和视频创业公司，使用其 FLUX.1 模型来驱动 Grok 的图像生成器。</p>
</div><p>It looks like Grok’s AI image generator is here. And yes, as expected, very few safeguards pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) August 14, 2024</p>
<div class="lb-trans"><p>看起来 Grok 的 AI 图像生成器已经上线。是的，正如预期的那样，几乎没有多少保障。pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) 2024 年 8 月 14 日</p>
</div><p>Black Forest Labs is based in Germany, and recently came out of stealth with $31 million in seed funding, led by Andreessen Horowitz, according to a press release. Other notable investors include Y Combinator CEO Garry Tan and former Oculus CEO Brandan Iribe. The startup’s co-founders, Robin Rombach, Patrick Esser, and Andreas Blattmann, were formerly researchers that helped create Stability AI’s Stable Diffusion models.</p>
<div class="lb-trans"><p>Black Forest Labs 总部位于德国，最近以 3100 万美元的种子轮融资正式亮相，由安德森·霍洛维茨（Andreessen Horowitz）领投，其他知名投资者包括 Y Combinator 首席执行官 Garry Tan 和前 Oculus 首席执行官 Brandan Iribe。这家初创公司的联合创始人罗宾·隆巴赫（Robin Rombach）、帕特里克·埃瑟（Patrick Esser）和安德烈亚斯·布拉特曼（Andreas Blattmann）曾是帮助创建 Stability AI 的 Stable Diffusion 模型的研究人员。</p>
</div><p>According to Artificial Analysis, Black Forest Lab’s FLUX.1 models surpass Midjourney and OpenAI’s AI image generators in terms of quality, at least as ranked by users in their image arena.</p>
<div class="lb-trans"><p>根据人工分析，Black Forest Lab 的 FLUX.1 模型在质量上超过了 Midjourney 和 OpenAI 的 AI 图像生成器，至少在用户在其图像领域中的排名中是如此。</p>
</div><p>The startup says it is “making our models available to a wide audience,” with open-source AI image generation models on Hugging Face and GitHub. Soon, the company says it plans to create a text-to-video model as well.</p>
<div class="lb-trans"><p>该初创公司表示正在 “向广大受众提供我们的模型”，在 Hugging Face 和 GitHub 上提供开源 AI 图像生成模型。公司表示很快计划创建一个文本到视频模型。</p>
</div><p>Black Forest Labs did not immediately respond to TechCrunch’s request for comment.</p>
<blockquote>
</blockquote>
<div class="lb-trans"><p>Black Forest Labs 没有立即回应 TechCrunch 的置评请求。</p>
</div><p>Oh my god. Grok has absolutely no filters for its image generation. This is one of the most reckless and irresponsible AI implementations I've ever seen. pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) August 14, 2024</p>
<div class="lb-trans"><p>天啊。Grok 的图像生成器绝对没有任何过滤器。这是我见过的最鲁莽和不负责任的 AI 实现之一。pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) 2024 年 8 月 14 日</p>
</div><p>In its launch release, the company says it aims to “enhance trust in the safety of these models,” however, some might say the flood of its AI generated images on X Wednesday did the opposite. Many images users were able to create using Grok and Black Forest Labs’ tool, such as Pikachu holding an assault rifle, were not able to be recreated with Google or OpenAI’s image generators. There’s certainly no doubt that copyrighted imagery was used for the model’s training.</p>
<div class="lb-trans"><p>在其发布声明中，该公司表示旨在 “增强对这些模型安全性的信任”，然而，一些人可能会说，周三在 X 上涌现的大量 AI 生成的图片恰恰相反。许多用户使用 Grok 和 Black Forest Labs 的工具创建的图片，比如皮博卡憋着突击步枪，无法用谷歌或 OpenAI 的图像生成器重新创建。毫无疑问，该模型的训练中使用了受版权保护的图像。</p>
</div><h2>That’s kind of the point</h2>
<div class="lb-trans"><h2>这似乎是关键所在</h2>
</div><p>This lack of safeguards is likely a major reason Musk chose this collaborator. Musk has made clear that he believes safeguards actually make AI models less safe. “The danger of training AI to be woke – in other words, lie – is deadly,” said Musk in a tweet from 2022.</p>
<div class="lb-trans"><p>这种缺乏保障很可能是马斯克选择这个合作伙伴的一个主要原因。马斯克明确表示，他认为保障实际上会使 AI 模型变得不太安全。“训练 AI 变得唤醒的危险 - 换句话说，撒谎 - 是致命的，” 马斯克在 2022 年的一条推文中说。</p>
</div><p>Board Director of Black Forest Labs, Anjney Midha, posted on X a series of comparisons between images generated on day one of launch by Google Gemini and Grok’s Flux collaboration. The thread highlights Google Gemini’s well-documented issues with creating historically accurate images of people, specifically by injecting racial diversity into images inappropriately.</p>
<div class="lb-trans"><p>Black Forest Labs 董事会董事安杰尼·米达在 X 上发布了一系列比较，比较了谷歌 Gemini 和 Grok 的 Flux 合作在发布第一天生成的图片。该帖子突出了谷歌 Gemini 在创建历史准确图片方面存在的问题，特别是通过不适当地向图片中注入种族多样性。</p>
</div><p>“I’m glad @ibab and team took this seriously and made the right choice,” said Midha in a tweet, referring to FLUX.1’s seeming avoidance of this issue (and mentioning the account of xAI lead researcher Igor Babuschkin).</p>
<div class="lb-trans"><p>“我很高兴 @ibab 和团队认真对待并做出了正确选择，” 米达在一条推文中说，指的是 FLUX.1 似乎避免了这个问题（并提到了 xAI 首席研究员伊戈尔·巴布舒金的账户）。</p>
</div><p>Because of this flub, Google apologized and turned off Gemini’s ability to generate images of people in February. As of today, the company still doesn’t let Gemini generate images of people.</p>
<div class="lb-trans"><p>由于这个失误，谷歌在 2 月向 Gemini 道歉并关闭了其生成人物图片的功能。截至今天，该公司仍不允许 Gemini 生成人物图片。</p>
</div><h2>A firehose of misinformation</h2>
<div class="lb-trans"><h2>一股错误信息的洪流</h2>
</div><p>This general lack of safeguards could cause problems for Musk. The X platform drew criticism when AI-generated deepfake explicit images representing Taylor Swift went viral on the platform. Besides that incident, Grok generates hallucinated headlines that appear to users on X almost weekly.</p>
<div class="lb-trans"><p>这种普遍缺乏保障可能会给马斯克带来麻烦。当 AI 生成的深度伪造图片在平台上传播代表泰勒·斯威夫特时，X 平台受到了批评。除了那一事件，Grok 几乎每周都会生成让用户看到的幻觉般的头条新闻。</p>
</div><p>Just last week, five secretaries of state urged X to stop spreading misinformation about Kamala Harris on X. Earlier this month, Musk reshared a video that used AI to clone Harris’ voice, making it appear as if the Vice President admitted to being a “diversity hire.”</p>
<div class="lb-trans"><p>就在上周，五位州务卿敦促 X 停止在 X 上传播关于卡玛拉·哈里斯的错误信息。本月早些时候，马斯克转发了一个使用 AI 克隆哈里斯声音的视频，使副总统似乎承认自己是 “多元化招聘”。</p>
</div><p>Musk seems intent on letting misinformation like this pervade the platform. By allowing users to post Grok’s AI images, which seem to lack any watermarks, directly on the platform, he’s essentially opened a firehose of misinformation pointed at everyone’s X newsfeed.</p>
<div class="lb-trans"><p>马斯克似乎打算让这种错误信息充斥平台。通过允许用户在平台上直接发布 Grok 的 AI 图片，这些图片似乎没有任何水印，他实质上打开了一个指向每个人 X 新闻源的错误信息的水龙头。</p>
</div>

认识黑森林实验室，这家初创公司为埃隆·马斯克的疯狂 AI 图像生成器提供支持