--- title: "认识黑森林实验室，这家初创公司为埃隆·马斯克的疯狂 AI 图像生成器提供支持" description: "埃隆·马斯克的人工智能公司 xAI 推出了一个新的图像生成功能，由 Black Forest Labs 的 FLUX.1 模型驱动，由于缺乏安全防护措施而备受争议。该功能允许用户生成误导性和令人震惊的图像，引发了对于误导信息的担忧，尤其是在选举周期之前。最近获得 500 万美元资金支持的 Black Forest Labs 由前 Stability AI 研究人员领导，承诺提供高质量模型，但缺乏像" type: "news" locale: "zh-CN" url: "https://longbridge.com/zh-CN/news/211607684.md" published_at: "2024-08-14T22:46:18.000Z" --- # 认识黑森林实验室，这家初创公司为埃隆·马斯克的疯狂 AI 图像生成器提供支持 > 埃隆·马斯克的人工智能公司 xAI 推出了一个新的图像生成功能，由 Black Forest Labs 的 FLUX.1 模型驱动，由于缺乏安全防护措施而备受争议。该功能允许用户生成误导性和令人震惊的图像，引发了对于误导信息的担忧，尤其是在选举周期之前。最近获得 500 万美元资金支持的 Black Forest Labs 由前 Stability AI 研究人员领导，承诺提供高质量模型，但缺乏像 OpenAI 这样竞争对手中的保护措施。批评者担心这可能会加剧 X 平台上的误导信息问题 埃隆·马斯克的 Grok 在周二晚上发布了一个新的 AI 图像生成功能，就像 AI 聊天机器人一样，几乎没有多少保障。这意味着你可以生成唐纳德·特朗普在乔·罗根秀上吸大麻的假图片，然后直接上传到 X 平台。但一个新创企业是这个具有争议性功能背后的推手。 社交媒体网站已经被这一新功能的荒谬图片淹没。这无疑引起了人们对即将到来的选举周期的担忧，但严格来说，这并不是真正由埃隆·马斯克的 AI 公司支持这种疯狂。马斯克似乎找到了一家与他对 Grok 的愿景相符的公司，这家公司没有 OpenAI 的 Dall-E 或谷歌的 Imagen 中严格的防范措施。周二，xAI 宣布与 Black Forest Labs 合作，后者是一家于 8 月 1 日推出的 AI 图像和视频创业公司，使用其 FLUX.1 模型来驱动 Grok 的图像生成器。 看起来 Grok 的 AI 图像生成器已经上线。是的，正如预期的那样，几乎没有多少保障。pic.twitter.com/AB3IO7A3Dc— Max Zeff (@ZeffMax) 2024 年 8 月 14 日 Black Forest Labs 总部位于德国，最近以 3100 万美元的种子轮融资正式亮相，由安德森·霍洛维茨（Andreessen Horowitz）领投，其他知名投资者包括 Y Combinator 首席执行官 Garry Tan 和前 Oculus 首席执行官 Brandan Iribe。这家初创公司的联合创始人罗宾·隆巴赫（Robin Rombach）、帕特里克·埃瑟（Patrick Esser）和安德烈亚斯·布拉特曼（Andreas Blattmann）曾是帮助创建 Stability AI 的 Stable Diffusion 模型的研究人员。 根据人工分析，Black Forest Lab 的 FLUX.1 模型在质量上超过了 Midjourney 和 OpenAI 的 AI 图像生成器，至少在用户在其图像领域中的排名中是如此。 该初创公司表示正在 “向广大受众提供我们的模型”，在 Hugging Face 和 GitHub 上提供开源 AI 图像生成模型。公司表示很快计划创建一个文本到视频模型。 Black Forest Labs 没有立即回应 TechCrunch 的置评请求。 天啊。Grok 的图像生成器绝对没有任何过滤器。这是我见过的最鲁莽和不负责任的 AI 实现之一。pic.twitter.com/oiyRhW5jpF— Alejandra Caraballo (@Esqueer\_) 2024 年 8 月 14 日 在其发布声明中，该公司表示旨在 “增强对这些模型安全性的信任”，然而，一些人可能会说，周三在 X 上涌现的大量 AI 生成的图片恰恰相反。许多用户使用 Grok 和 Black Forest Labs 的工具创建的图片，比如皮博卡憋着突击步枪，无法用谷歌或 OpenAI 的图像生成器重新创建。毫无疑问，该模型的训练中使用了受版权保护的图像。 ## 这似乎是关键所在 这种缺乏保障很可能是马斯克选择这个合作伙伴的一个主要原因。马斯克明确表示，他认为保障实际上会使 AI 模型变得不太安全。“训练 AI 变得唤醒的危险 - 换句话说，撒谎 - 是致命的，” 马斯克在 2022 年的一条推文中说。 Black Forest Labs 董事会董事安杰尼·米达在 X 上发布了一系列比较，比较了谷歌 Gemini 和 Grok 的 Flux 合作在发布第一天生成的图片。该帖子突出了谷歌 Gemini 在创建历史准确图片方面存在的问题，特别是通过不适当地向图片中注入种族多样性。 “我很高兴 @ibab 和团队认真对待并做出了正确选择，” 米达在一条推文中说，指的是 FLUX.1 似乎避免了这个问题（并提到了 xAI 首席研究员伊戈尔·巴布舒金的账户）。 由于这个失误，谷歌在 2 月向 Gemini 道歉并关闭了其生成人物图片的功能。截至今天，该公司仍不允许 Gemini 生成人物图片。 ## 一股错误信息的洪流 这种普遍缺乏保障可能会给马斯克带来麻烦。当 AI 生成的深度伪造图片在平台上传播代表泰勒·斯威夫特时，X 平台受到了批评。除了那一事件，Grok 几乎每周都会生成让用户看到的幻觉般的头条新闻。 就在上周，五位州务卿敦促 X 停止在 X 上传播关于卡玛拉·哈里斯的错误信息。本月早些时候，马斯克转发了一个使用 AI 克隆哈里斯声音的视频，使副总统似乎承认自己是 “多元化招聘”。 马斯克似乎打算让这种错误信息充斥平台。通过允许用户在平台上直接发布 Grok 的 AI 图片，这些图片似乎没有任何水印，他实质上打开了一个指向每个人 X 新闻源的错误信息的水龙头。 ### Related Stocks - [OpenAI.NA - OpenAI](https://longbridge.com/zh-CN/quote/OpenAI.NA.md) - [TSLA.US - 特斯拉](https://longbridge.com/zh-CN/quote/TSLA.US.md) ## Related News & Research | Title | Description | URL | |-------|-------------|-----| | AI 巨頭競爭愈演愈烈 OpenAI 及 Anthropic 掌舵人印度峯會拒牽手 | 在印度新德裡舉行的人工智慧高峰會上，OpenAI 執行長 Sam Altman 與 Anthropic 執行長 Dario Amodei 拒絕牽手，展現出兩家公司之間的競爭。Altman 表示沒有牽手並非故意，而是拍攝過程中的混亂。兩家公司 | [Link](https://longbridge.com/zh-CN/news/276408352.md) | | 阿特曼出席 AI 峯會 強調全球亟需監管措施 | 阿特曼在 AI 全球峯會上強調，全球亟需對快速發展的人工智慧技術進行監管。他指出，AI 的民主化是人類繁榮發展的關鍵，集中技術於單一公司或國家可能導致災難。他呼籲建立類似國際原子能總署的組織，以協調 AI 事務並應對新出現的問題，如失業和網 | [Link](https://longbridge.com/zh-CN/news/276395979.md) | | OpenAI 新一輪融資或突破千億美元 據報亞馬遜、軟銀、英偉達及微軟參與投資 | OpenAI 即將完成新一輪融資，預計籌集超過 1000 億美元，估值可能超過 8500 億美元。主要投資者包括亞馬遜、軟銀、英偉達和微軟。融資將分階段進行，預計在本年度內完成。亞馬遜可能投資高達 500 億美元，軟銀 300 億美元，英偉 | [Link](https://longbridge.com/zh-CN/news/276297991.md) | | 據 CNBC 報道，OpenAI 正在完成一輪融資，其中 90% 的資金來自戰略投資者 | OpenAI 正在完成融資輪，90% 的資金來自戰略投資者，CNBC 報道 | [Link](https://longbridge.com/zh-CN/news/276503935.md) | | Bartronics India 否認與 OpenAI 的合作 | 巴特羅尼克斯印度有限公司：公司否認推出 500 兆瓦數據中心，公司否認與 OpenAI 合作 | [Link](https://longbridge.com/zh-CN/news/276327596.md) | --- > **免责声明**：本文内容仅供参考，不构成任何投资建议。