<p>埃隆·馬斯克的 Grok 在週二晚上發佈了一個新的 AI 圖像生成功能，就像 AI 聊天機器人一樣，幾乎沒有多少保障。這意味着你可以生成唐納德·特朗普在喬·羅根秀上吸大麻的假圖片，然後直接上傳到 X 平台。但一個新創企業是這個具有爭議性功能背後的推手。</p>
<p>社交媒體網站已經被這一新功能的荒謬圖片淹沒。這無疑引起了人們對即將到來的選舉週期的擔憂，但嚴格來説，這並不是真正由埃隆·馬斯克的 AI 公司支持這種瘋狂。馬斯克似乎找到了一家與他對 Grok 的願景相符的公司，這家公司沒有 OpenAI 的 Dall-E 或谷歌的 Imagen 中嚴格的防範措施。週二，xAI 宣佈與 Black Forest Labs 合作，後者是一家於 8 月 1 日推出的 AI 圖像和視頻創業公司，使用其 FLUX.1 模型來驅動 Grok 的圖像生成器。</p>
<p>看起來 Grok 的 AI 圖像生成器已經上線。是的，正如預期的那樣，幾乎沒有多少保障。pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) 2024 年 8 月 14 日</p>
<p>Black Forest Labs 總部位於德國，最近以 3100 萬美元的種子輪融資正式亮相，由安德森·霍洛維茨（Andreessen Horowitz）領投，其他知名投資者包括 Y Combinator 首席執行官 Garry Tan 和前 Oculus 首席執行官 Brandan Iribe。這家初創公司的聯合創始人羅賓·隆巴赫（Robin Rombach）、帕特里克·埃瑟（Patrick Esser）和安德烈亞斯·布拉特曼（Andreas Blattmann）曾是幫助創建 Stability AI 的 Stable Diffusion 模型的研究人員。</p>
<p>根據人工分析，Black Forest Lab 的 FLUX.1 模型在質量上超過了 Midjourney 和 OpenAI 的 AI 圖像生成器，至少在用户在其圖像領域中的排名中是如此。</p>
<p>該初創公司表示正在 “向廣大受眾提供我們的模型”，在 Hugging Face 和 GitHub 上提供開源 AI 圖像生成模型。公司表示很快計劃創建一個文本到視頻模型。</p>
<p>Black Forest Labs 沒有立即回應 TechCrunch 的置評請求。</p>
<p>天啊。Grok 的圖像生成器絕對沒有任何過濾器。這是我見過的最魯莽和不負責任的 AI 實現之一。pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) 2024 年 8 月 14 日</p>
<p>在其發佈聲明中，該公司表示旨在 “增強對這些模型安全性的信任”，然而，一些人可能會説，週三在 X 上湧現的大量 AI 生成的圖片恰恰相反。許多用户使用 Grok 和 Black Forest Labs 的工具創建的圖片，比如皮博卡憋着突擊步槍，無法用谷歌或 OpenAI 的圖像生成器重新創建。毫無疑問，該模型的訓練中使用了受版權保護的圖像。</p>
<h2>這似乎是關鍵所在</h2>
<p>這種缺乏保障很可能是馬斯克選擇這個合作伙伴的一個主要原因。馬斯克明確表示，他認為保障實際上會使 AI 模型變得不太安全。“訓練 AI 變得喚醒的危險 - 換句話説，撒謊 - 是致命的，” 馬斯克在 2022 年的一條推文中説。</p>
<p>Black Forest Labs 董事會董事安傑尼·米達在 X 上發佈了一系列比較，比較了谷歌 Gemini 和 Grok 的 Flux 合作在發佈第一天生成的圖片。該帖子突出了谷歌 Gemini 在創建歷史準確圖片方面存在的問題，特別是通過不適當地向圖片中注入種族多樣性。</p>
<p>“我很高興 @ibab 和團隊認真對待並做出了正確選擇，” 米達在一條推文中説，指的是 FLUX.1 似乎避免了這個問題（並提到了 xAI 首席研究員伊戈爾·巴布舒金的賬户）。</p>
<p>由於這個失誤，谷歌在 2 月向 Gemini 道歉並關閉了其生成人物圖片的功能。截至今天，該公司仍不允許 Gemini 生成人物圖片。</p>
<h2>一股錯誤信息的洪流</h2>
<p>這種普遍缺乏保障可能會給馬斯克帶來麻煩。當 AI 生成的深度偽造圖片在平台上傳播代表泰勒·斯威夫特時，X 平台受到了批評。除了那一事件，Grok 幾乎每週都會生成讓用户看到的幻覺般的頭條新聞。</p>
<p>就在上週，五位州務卿敦促 X 停止在 X 上傳播關於卡瑪拉·哈里斯的錯誤信息。本月早些時候，馬斯克轉發了一個使用 AI 克隆哈里斯聲音的視頻，使副總統似乎承認自己是 “多元化招聘”。</p>
<p>馬斯克似乎打算讓這種錯誤信息充斥平台。通過允許用户在平台上直接發佈 Grok 的 AI 圖片，這些圖片似乎沒有任何水印，他實質上打開了一個指向每個人 X 新聞源的錯誤信息的水龍頭。</p>

OpenAI

特斯拉

<p>埃隆·馬斯克的人工智能公司 xAI 推出了一個新的圖像生成功能，由 Black Forest Labs 的 FLUX.1 模型驅動，由於缺乏安全防護措施而備受爭議。該功能允許用户生成誤導性和令人震驚的圖像，引發了對於誤導信息的擔憂，尤其是在選舉週期之前。最近獲得 500 萬美元資金支持的 Black Forest Labs 由前 Stability AI 研究人員領導，承諾提供高質量模型，但缺乏像 OpenAI 這樣競爭對手中的保護措施。批評者擔心這可能會加劇 X 平台上的誤導信息問題</p>

<p>Elon Musk’s Grok released a new AI image generation feature on Tuesday night that, just like the AI chatbot, has very few safeguards. That means you can generate fake images of Donald Trump smoking marijuana on the Joe Rogan Show, for example, and upload it straight to the X platform. But a new startup is the one behind the controversial feature.</p>
<div class="lb-trans"><p>埃隆·馬斯克的 Grok 在週二晚上發佈了一個新的 AI 圖像生成功能，就像 AI 聊天機器人一樣，幾乎沒有多少保障。這意味着你可以生成唐納德·特朗普在喬·羅根秀上吸大麻的假圖片，然後直接上傳到 X 平台。但一個新創企業是這個具有爭議性功能背後的推手。</p>
</div><p>The social media site is already flooded with outrageous images from the new feature. That certainly raises concerns heading into an election cycle, but strictly speaking it’s not really Elon Musk’s AI company powering the madness. Musk seems to have found a company that sympathizes with his vision for Grok as an “anti-woke chatbot” without the strict guardrails found in OpenAI’s Dall-E or Google’s Imagen. On Tuesday, xAI announced a collaboration with Black Forest Labs, an AI image and video startup launched on August 1, to power Grok’s image generator using its FLUX.1 model.</p>
<blockquote>
</blockquote>
<div class="lb-trans"><p>社交媒體網站已經被這一新功能的荒謬圖片淹沒。這無疑引起了人們對即將到來的選舉週期的擔憂，但嚴格來説，這並不是真正由埃隆·馬斯克的 AI 公司支持這種瘋狂。馬斯克似乎找到了一家與他對 Grok 的願景相符的公司，這家公司沒有 OpenAI 的 Dall-E 或谷歌的 Imagen 中嚴格的防範措施。週二，xAI 宣佈與 Black Forest Labs 合作，後者是一家於 8 月 1 日推出的 AI 圖像和視頻創業公司，使用其 FLUX.1 模型來驅動 Grok 的圖像生成器。</p>
</div><p>It looks like Grok’s AI image generator is here. And yes, as expected, very few safeguards pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) August 14, 2024</p>
<div class="lb-trans"><p>看起來 Grok 的 AI 圖像生成器已經上線。是的，正如預期的那樣，幾乎沒有多少保障。pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) 2024 年 8 月 14 日</p>
</div><p>Black Forest Labs is based in Germany, and recently came out of stealth with $31 million in seed funding, led by Andreessen Horowitz, according to a press release. Other notable investors include Y Combinator CEO Garry Tan and former Oculus CEO Brandan Iribe. The startup’s co-founders, Robin Rombach, Patrick Esser, and Andreas Blattmann, were formerly researchers that helped create Stability AI’s Stable Diffusion models.</p>
<div class="lb-trans"><p>Black Forest Labs 總部位於德國，最近以 3100 萬美元的種子輪融資正式亮相，由安德森·霍洛維茨（Andreessen Horowitz）領投，其他知名投資者包括 Y Combinator 首席執行官 Garry Tan 和前 Oculus 首席執行官 Brandan Iribe。這家初創公司的聯合創始人羅賓·隆巴赫（Robin Rombach）、帕特里克·埃瑟（Patrick Esser）和安德烈亞斯·布拉特曼（Andreas Blattmann）曾是幫助創建 Stability AI 的 Stable Diffusion 模型的研究人員。</p>
</div><p>According to Artificial Analysis, Black Forest Lab’s FLUX.1 models surpass Midjourney and OpenAI’s AI image generators in terms of quality, at least as ranked by users in their image arena.</p>
<div class="lb-trans"><p>根據人工分析，Black Forest Lab 的 FLUX.1 模型在質量上超過了 Midjourney 和 OpenAI 的 AI 圖像生成器，至少在用户在其圖像領域中的排名中是如此。</p>
</div><p>The startup says it is “making our models available to a wide audience,” with open-source AI image generation models on Hugging Face and GitHub. Soon, the company says it plans to create a text-to-video model as well.</p>
<div class="lb-trans"><p>該初創公司表示正在 “向廣大受眾提供我們的模型”，在 Hugging Face 和 GitHub 上提供開源 AI 圖像生成模型。公司表示很快計劃創建一個文本到視頻模型。</p>
</div><p>Black Forest Labs did not immediately respond to TechCrunch’s request for comment.</p>
<blockquote>
</blockquote>
<div class="lb-trans"><p>Black Forest Labs 沒有立即回應 TechCrunch 的置評請求。</p>
</div><p>Oh my god. Grok has absolutely no filters for its image generation. This is one of the most reckless and irresponsible AI implementations I've ever seen. pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) August 14, 2024</p>
<div class="lb-trans"><p>天啊。Grok 的圖像生成器絕對沒有任何過濾器。這是我見過的最魯莽和不負責任的 AI 實現之一。pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer_) 2024 年 8 月 14 日</p>
</div><p>In its launch release, the company says it aims to “enhance trust in the safety of these models,” however, some might say the flood of its AI generated images on X Wednesday did the opposite. Many images users were able to create using Grok and Black Forest Labs’ tool, such as Pikachu holding an assault rifle, were not able to be recreated with Google or OpenAI’s image generators. There’s certainly no doubt that copyrighted imagery was used for the model’s training.</p>
<div class="lb-trans"><p>在其發佈聲明中，該公司表示旨在 “增強對這些模型安全性的信任”，然而，一些人可能會説，週三在 X 上湧現的大量 AI 生成的圖片恰恰相反。許多用户使用 Grok 和 Black Forest Labs 的工具創建的圖片，比如皮博卡憋着突擊步槍，無法用谷歌或 OpenAI 的圖像生成器重新創建。毫無疑問，該模型的訓練中使用了受版權保護的圖像。</p>
</div><h2>That’s kind of the point</h2>
<div class="lb-trans"><h2>這似乎是關鍵所在</h2>
</div><p>This lack of safeguards is likely a major reason Musk chose this collaborator. Musk has made clear that he believes safeguards actually make AI models less safe. “The danger of training AI to be woke – in other words, lie – is deadly,” said Musk in a tweet from 2022.</p>
<div class="lb-trans"><p>這種缺乏保障很可能是馬斯克選擇這個合作伙伴的一個主要原因。馬斯克明確表示，他認為保障實際上會使 AI 模型變得不太安全。“訓練 AI 變得喚醒的危險 - 換句話説，撒謊 - 是致命的，” 馬斯克在 2022 年的一條推文中説。</p>
</div><p>Board Director of Black Forest Labs, Anjney Midha, posted on X a series of comparisons between images generated on day one of launch by Google Gemini and Grok’s Flux collaboration. The thread highlights Google Gemini’s well-documented issues with creating historically accurate images of people, specifically by injecting racial diversity into images inappropriately.</p>
<div class="lb-trans"><p>Black Forest Labs 董事會董事安傑尼·米達在 X 上發佈了一系列比較，比較了谷歌 Gemini 和 Grok 的 Flux 合作在發佈第一天生成的圖片。該帖子突出了谷歌 Gemini 在創建歷史準確圖片方面存在的問題，特別是通過不適當地向圖片中注入種族多樣性。</p>
</div><p>“I’m glad @ibab and team took this seriously and made the right choice,” said Midha in a tweet, referring to FLUX.1’s seeming avoidance of this issue (and mentioning the account of xAI lead researcher Igor Babuschkin).</p>
<div class="lb-trans"><p>“我很高興 @ibab 和團隊認真對待並做出了正確選擇，” 米達在一條推文中説，指的是 FLUX.1 似乎避免了這個問題（並提到了 xAI 首席研究員伊戈爾·巴布舒金的賬户）。</p>
</div><p>Because of this flub, Google apologized and turned off Gemini’s ability to generate images of people in February. As of today, the company still doesn’t let Gemini generate images of people.</p>
<div class="lb-trans"><p>由於這個失誤，谷歌在 2 月向 Gemini 道歉並關閉了其生成人物圖片的功能。截至今天，該公司仍不允許 Gemini 生成人物圖片。</p>
</div><h2>A firehose of misinformation</h2>
<div class="lb-trans"><h2>一股錯誤信息的洪流</h2>
</div><p>This general lack of safeguards could cause problems for Musk. The X platform drew criticism when AI-generated deepfake explicit images representing Taylor Swift went viral on the platform. Besides that incident, Grok generates hallucinated headlines that appear to users on X almost weekly.</p>
<div class="lb-trans"><p>這種普遍缺乏保障可能會給馬斯克帶來麻煩。當 AI 生成的深度偽造圖片在平台上傳播代表泰勒·斯威夫特時，X 平台受到了批評。除了那一事件，Grok 幾乎每週都會生成讓用户看到的幻覺般的頭條新聞。</p>
</div><p>Just last week, five secretaries of state urged X to stop spreading misinformation about Kamala Harris on X. Earlier this month, Musk reshared a video that used AI to clone Harris’ voice, making it appear as if the Vice President admitted to being a “diversity hire.”</p>
<div class="lb-trans"><p>就在上週，五位州務卿敦促 X 停止在 X 上傳播關於卡瑪拉·哈里斯的錯誤信息。本月早些時候，馬斯克轉發了一個使用 AI 克隆哈里斯聲音的視頻，使副總統似乎承認自己是 “多元化招聘”。</p>
</div><p>Musk seems intent on letting misinformation like this pervade the platform. By allowing users to post Grok’s AI images, which seem to lack any watermarks, directly on the platform, he’s essentially opened a firehose of misinformation pointed at everyone’s X newsfeed.</p>
<div class="lb-trans"><p>馬斯克似乎打算讓這種錯誤信息充斥平台。通過允許用户在平台上直接發佈 Grok 的 AI 圖片，這些圖片似乎沒有任何水印，他實質上打開了一個指向每個人 X 新聞源的錯誤信息的水龍頭。</p>
</div>

認識黑森林實驗室，這家初創公司為埃隆·馬斯克的瘋狂 AI 圖像生成器提供支持