<p>这些视频在 11 月初开始在社交媒体上流传：乌克兰士兵在前线似乎在哭泣和投降。乍一看，它们看起来真实，反映了多年来冲突地区出现的许多视频。很少有明显的操控迹象。但现居纽约的俄罗斯知名直播主阿列克谢·古巴诺夫（Aleksei Gubanov）立即意识到有些不对劲：他自己的脸。“起初我没有认真对待，但很快我注意到观看次数增长得如此之快，更糟的是，许多人相信这些视频是真的，” 古巴诺夫谈到他看到的视频时说。“成千上万，甚至数十万用户在评论中对视频中所谓的乌克兰士兵表示哀悼，并对乌克兰领导层表达愤怒。” 古巴诺夫在 Twitch 上直播视频游戏和聊天，由于批评普京总统而逃离俄罗斯，他从未服役于武装部队，更不用说乌克兰军队。他的追随者所指出的是一段 AI 生成的视频，利用他的形象传播关于乌克兰军队士气的虚假叙述。“我们被带到征兵委员会并被送到这里。现在我们要被带到波克罗夫斯克。我们不想去。请，” AI 生成的古巴诺夫用俄语说，身穿带有乌克兰国旗的制服。“妈妈，妈妈，我不想去！” 这段视频是 NBC 新闻最近几周审查的 21 段乌克兰士兵的 AI 生成视频之一，这些视频似乎是使用先进的人工智能程序创建或操控的，结果有些视频真实得几乎没有其来源的线索。但在至少一半的视频中，一个小标志在角落里暴露了它们的真相：它们是用 Sora 2 制作的，这是 OpenAI 最新版本的文本转视频生成器。Sora 生成的一些视频使用了知名俄罗斯直播主的面孔，例如古巴诺夫，制作出戏剧性的深度伪造，而其他视频则显示乌克兰士兵集体向俄罗斯军队投降。那些似乎是由其他 AI 平台生成的视频也有非常微妙的错误，大多数人很难发现，例如乌克兰士兵穿着的制服和头盔的错误或简化版本。对乌克兰人来说，有一个明显的问题：大多数视频中的士兵讲俄语，而 21 段视频中只有 8 段是军事人员讲乌克兰语。这些视频在 YouTube、TikTok、Facebook 和 X 上传播，试图描绘乌克兰士兵不愿意战斗和准备放弃的形象。它们似乎是最新的虚假信息攻击，旨在扭曲公众对俄罗斯与乌克兰战争的看法。虽然不清楚是谁创建或发布了这些视频，但它们增加了越来越多的虚假信息，这些信息变得越来越复杂，难以识别。“使用 Sora 生成的虚假声明更难以检测和揭穿。即使是最好的 AI 检测器有时也会遇到困难，” NewsGuard 的俄罗斯影响分析师爱丽丝·李（Alice Lee）说，NewsGuard 是一个识别在线可靠和欺骗性信息的非党派数据、分析和新闻平台。“许多视频没有视觉不一致性，这意味着公众可能会在 TikTok 等平台上观看并快速滑过这些视频，而不知道他们刚刚看到的视频是伪造的。” OpenAI 没有回应关于 Sora 在创建误导性视频方面的作用的评论请求，但在一封电子邮件中表示：“Sora 2 生成超现实视频和音频的能力引发了关于肖像、误用和欺骗的重要担忧。”“虽然允许电影动作，但我们不允许图形暴力、极端材料或欺骗，” 该公司告诉 NBC 新闻。“我们的系统在内容到达 Sora Feed 之前会检测并阻止违规内容，我们的调查团队积极拆解影响操作。” 近年来，AI 生成的视频迅速发展，从基本和粗糙到近乎完美，许多专家越来越警告说，可能很快就会很难轻易区分真实与虚假。OpenAI 的 Sora 2 于 10 月发布，是最令人印象深刻的视频生成器之一，Sora 生成的剪辑现在常常欺骗观众。与此同时，俄罗斯对乌克兰的持续入侵自其最初阶段以来就是操控努力的主题，使用从逼真的视频游戏画面到虚假的战区直播等各种手段。这些虚假信息努力中的许多被归因于俄罗斯国家行为者。这些 Sora 视频的出现正值美国支持的和平谈判仍未达成共识，根据基辅国际社会学研究所进行的一项研究，约 75% 的乌克兰人明确拒绝俄罗斯结束战争的提议。该研究还发现，62% 的乌克兰人愿意忍受战争，无论需要多长时间，即使俄罗斯对乌克兰首都的致命打击仍在继续。乌克兰国家安全和国防委员会下属的反虚假信息中心告诉 NBC 新闻，在过去一年中，使用 AI 创建或操控的内容的数量 “显著增加”，旨在削弱公众对乌克兰政府的信任和国际支持。“这包括据称由乌克兰军事人员或指挥部发表的虚假声明，以及包含 ‘供述’、‘丑闻’ 或虚构事件的虚假视频，” 该中心在一封电子邮件中表示，并指出这些视频因其情感和耸人听闻的性质而获得数十万的观看次数。虽然 OpenAI 对 Sora 的生成内容设定了一些保护措施，但其有效性尚不清楚。该公司本身表示，虽然 “已采取分层保护措施，但某些有害行为或政策违规仍可能绕过缓解措施。” NewsGuard 的一项研究发现，Sora 2 在被要求时 “80% 的时间（20 个中的 16 个）生成了推进可证明虚假声明的真实视频。” 在提供给 Sora 2 的 20 个虚假声明中，有 5 个是由俄罗斯虚假信息操作推广的。NewsGuard 的研究发现，即使 Sora 2 最初对虚假声明进行了反驳，声称某个提示 “违反了其内容政策”，研究人员仍能够使用不同的提示措辞生成视频。NBC 新闻能够在 Sora 上生成类似的视频，显示乌克兰士兵哭泣，称他们被迫入伍或举起双手和白旗投降。许多 AI 视频生成器试图标记或水印其创作，以表明它们是计算机生成的。OpenAI 表示，其针对 Sora 的虚假信息安全保护措施包括标记视频来源的元数据和每个下载视频上都有移动水印。但有一些方法可以去除或最小化这些努力。一些 Sora 视频似乎其移动水印被遮挡，这在仔细检查时很明显。许多应用程序和网站现在为用户提供了一种遮挡 AI 水印的方法。NBC 新闻看到的其他视频则包括用文本覆盖在视频上遮挡水印。尽管公司政策指出 Sora AI 不会生成显示 “图形暴力” 的内容，但 NBC 新闻发现了一段水印显示乌克兰士兵在前线被击中头部的视频。在 NBC 新闻分析的所有视频中，所有视频都在 TikTok 或 YouTube Shorts 上发布——这两个平台在俄罗斯被禁止，但在欧洲和美国易于访问。一些视频包含各种语言的情感字幕，以便不懂乌克兰语或俄语的用户也能理解。TikTok 和 YouTube 禁止在其平台上发布欺骗性的 AI 生成内容和深度伪造，并为逼真的视频提供 “AI 生成” 描述标签以提醒观众。YouTube 的一位发言人表示，该公司在 NBC 新闻标记后删除了一个发布这些视频的频道，但另外两个视频并未违反其政策，因此仍在平台上，并标记为 AI 生成。NBC 新闻发现的带有 TikTok 用户名的 AI 视频全部已从该平台删除。TikTok 的一位发言人表示，截至 2025 年 6 月，“我们删除的违规内容中超过 99% 是在有人向我们举报之前被删除的，超过 90% 是在获得单次观看之前被删除的。” 尽管这些 TikTok 帖子和账户被迅速删除，但视频仍以转发的形式在 X 和 Facebook 上存在。X 和 Facebook 均未回应 NBC 新闻的评论请求。这场最新的虚假信息运动正值用户越来越依赖社交媒体视频来获取全球最新消息之际。“任何在线消费内容的人都需要意识到，我们今天在视频、照片和文本中看到的许多内容确实是 AI 生成的，” 美国阳光项目的联合创始人兼首席执行官尼娜·扬科维奇（Nina Jankowicz）说，该组织致力于对抗在线虚假信息。“即使 Sora 引入了 [安全] 保护措施，在这个领域仍会有其他公司、其他应用程序和其他技术，我们的对手会利用这些来试图感染我们的信息空间。”</p>

OpenAI

<p>在社交媒体上，生成的描绘乌克兰士兵处于困境的 AI 视频正在传播，旨在操控公众对俄乌冲突的看法。这些视频使用 OpenAI 的 Sora 2 制作，包含俄罗斯直播者的深度伪造影像和制服的不准确性。尽管有检测和阻止此类内容的努力，这些视频仍传播虚假信息，使真实媒体与虚假媒体之间的区别变得复杂。这一情况凸显了在持续的地缘政治紧张局势中识别 AI 生成的欺骗所面临的挑战</p>

<p>The videos began to circulate on social media in early November: Ukrainian soldiers appearing to weep and surrender on the front lines. To the naked eye, they look real, mirroring many of the videos that have emerged from the region during years of conflict. Few have telltale signs of manipulation. But Aleksei Gubanov, a popular Russian livestreamer who now lives in New York, immediately recognized something fishy: his own face. “At first I didn’t take it seriously, but soon I noticed how quickly the view count was growing and, even worse, how many people believed these videos were real,” Gubanov said of the videos he saw. “Tens of thousands, if not hundreds of thousands, of users were leaving comments expressing condolences to the supposedly Ukrainian soldiers in the videos and directing anger toward the Ukrainian leadership.” Gubanov, who streams video games and chatting on Twitch and fled Russia due to his criticism of President Vladimir Putin, has never served in the armed forces, let alone in the Ukrainian army. What his followers had flagged was an AI-generated video that used his likeness to spread a false narrative about morale among Ukrainian troops. “We were taken to draft commission and sent here. Now we are being taken to Pokrovsk. We don’t want to. Please,” the AI-generated Gubanov said in Russian while wearing a uniform with the Ukrainian flag on it. “Mom, Mom, I don’t want!” The video is one of 21 AI-generated videos of Ukrainian soldiers reviewed by NBC News in recent weeks that appear to have been created or manipulated using advanced artificial intelligence programs, resulting in some so realistic that they offer few hints of their origins. But in at least half of these videos, a small logo in the corner gives it away: They were made with Sora 2, the latest iteration of OpenAI’s text-to-video generator. Some of the videos generated by Sora used the faces of popular Russian livestreamers, such as Gubanov, in dramatic deepfakes while others show groups of Ukrainian soldiers surrendering to Russian forces en masse. Those that appear to have been generated by other AI platforms also had very subtle errors that would be challenging for most people to find, such as incorrect or simplified versions of the uniforms and helmets Ukrainian soldiers wear. And to Ukrainians, there’s an obvious issue: The majority of videos feature soldiers speaking Russian, while only eight of the 21 videos feature military personnel speaking Ukrainian. The videos spread on YouTube, TikTok, Facebook and X. All sought to portray Ukrainian soldiers as reluctant to fight and ready to give up. They appear to be the latest disinformation salvo meant to warp public perceptions of Russia’s war with Ukraine. And while it’s not clear who created or posted the videos, they add to a growing body of false information that has only become more sophisticated and harder to spot. “False claims created using Sora are much harder to detect and debunk. Even the best AI detectors sometimes struggle,” said Alice Lee, a Russian influence analyst with NewsGuard, a nonpartisan data, analysis and journalism platform that identifies reliable and deceptive information online. “The fact that many videos have no visual inconsistencies means that members of the public might watch through and scroll past such videos on platforms like TikTok, with no idea that the video they’ve just seen is falsified.” OpenAI did not respond to a request for comment regarding Sora’s role in creating misleading videos depicting conflict zones specifically, but said in an email: “Sora 2’s ability to generate hyper realistic video and audio raises important concerns around likeness, misuse, and deception.” “While cinematic action is permitted, we do not allow graphic violence, extremist material, or deception,” the company told NBC News. “Our systems detect and block violating content before it reaches the Sora Feed, and our investigations team actively dismantles influence operations.” AI-generated video has evolved rapidly in recent years from basic and crude to near-perfect, with many experts increasingly warning that there could soon be few ways to easily discern real from fake. OpenAI’s Sora 2, released in October, is among the most impressive video generators, with Sora-generated clips now routinely deceiving viewers. Meanwhile, Russia’s ongoing invasion of Ukraine has been — since its earliest days — the subject of manipulation efforts using everything from realistic video game footage to fake war zone livestreams. Many of these disinformation efforts were attributed to Russian state actors. These Sora videos come as U.S.-backed peace talks remain inconclusive, with about 75% of Ukrainians categorically rejecting Russian proposals to end the war, per a study conducted by the Kyiv International Institute of Sociology. The same study found that 62% of Ukrainians are willing to endure the war for as long as it takes, even as deadly Russian strikes on Ukraine’s capital continue. The Center for Countering Disinformation, part of Ukraine’s National Security and Defense Council, told NBC News that over the past year there has been a “significant increase in the volume of content created or manipulated using AI” meant to undermine public trust and international support for Ukraine’s government. “This includes fabricated statements allegedly made on behalf of Ukrainian military personnel or command, as well as fake videos featuring ‘confessions,’ ‘scandals’ or fictional events,” the center said in an email, noting that these videos gain hundreds of thousands of views due to their emotional and sensational nature. While OpenAI has put some guardrails around what can be made with Sora, it’s unclear how effective they are. The company itself states that while “layered safeguards are in place, some harmful behaviors or policy violations may still circumvent mitigations.” A NewsGuard study found that Sora 2 “produced realistic videos advancing provably false claims 80 percent of the time (16 out of 20) when prompted to do so.” Of the 20 false claims fed to Sora 2, five were popularized by Russian disinformation operations. NewsGuard’s study found that even when Sora 2 initially pushed back at the false claims, stating that a prompt “violated its content policies,” researchers were still able to generate footage using different phrasings of those prompts. NBC News was able to produce similar videos on Sora showing Ukrainian soldiers crying, saying they were forced into the military or surrendering with raised arms and white flags in the background. Many AI video generators attempt to label or watermark their creations to signal that they are computer-generated. OpenAI has said that its disinformation safety guardrails for Sora include metadata noting the video’s origins and a moving watermark present on every downloaded video. But there are ways to remove or minimize those efforts. Some of the Sora videos appeared to have their moving watermarks obscured, something noticeable on close inspection. Many apps and websites now offer users a way to obscure AI watermarks. Other videos seen by NBC News included watermarks that had been covered with text overlayed onto the video. Despite company policy noting that Sora AI will not generate content showing “graphic violence,” NBC News found a video with Sora’s watermark appearing to show a Ukrainian soldier shot in the head on the front line. Of the videos analyzed by NBC News, all were posted on TikTok or YouTube Shorts — two platforms banned in Russia but easily accessible to those in Europe and the U.S. Some included emotional subtitles in various languages so users who don’t speak Ukrainian or Russian can understand. TikTok and YouTube prohibit posting deceptive AI-generated content and deepfakes on their platforms, with both providing “AI-Generated” description tags for viewer awareness on realistic-looking footage. A YouTube spokesperson said that the company removed one of the channels that had posted the videos after it was flagged by NBC News, but that two other videos did not violate its policies and therefore remained on the platform with a label describing them as AI-generated. Of the AI videos found by NBC News with a TikTok username attached, all had been removed from the platform. A TikTok spokesperson said that as of June 2025, “more than 99% of the violative content we removed was taken down before someone reported it to us, and more than 90% was removed before it got a single view.” Despite these TikTok posts and accounts being quickly removed, the videos live on as reposts on X and Facebook. Both X and Facebook did not respond to NBC News’ requests for comment. This latest disinformation campaign comes at a time when users are relying more on social media videos to stay informed of the latest news around the world. “Anyone consuming content online needs to realize that a lot of what we see today in video, photos, and text is indeed AI generated,” said Nina Jankowicz, co-founder and CEO of the American Sunlight Project, an organization working against online disinformation. “Even if Sora introduces [safety] guardrails, in this space there will be other companies, other apps, and other technologies that our adversaries build to try to infect our information space.”</p>
<div class="lb-trans"><p>这些视频在 11 月初开始在社交媒体上流传：乌克兰士兵在前线似乎在哭泣和投降。乍一看，它们看起来真实，反映了多年来冲突地区出现的许多视频。很少有明显的操控迹象。但现居纽约的俄罗斯知名直播主阿列克谢·古巴诺夫（Aleksei Gubanov）立即意识到有些不对劲：他自己的脸。“起初我没有认真对待，但很快我注意到观看次数增长得如此之快，更糟的是，许多人相信这些视频是真的，” 古巴诺夫谈到他看到的视频时说。“成千上万，甚至数十万用户在评论中对视频中所谓的乌克兰士兵表示哀悼，并对乌克兰领导层表达愤怒。” 古巴诺夫在 Twitch 上直播视频游戏和聊天，由于批评普京总统而逃离俄罗斯，他从未服役于武装部队，更不用说乌克兰军队。他的追随者所指出的是一段 AI 生成的视频，利用他的形象传播关于乌克兰军队士气的虚假叙述。“我们被带到征兵委员会并被送到这里。现在我们要被带到波克罗夫斯克。我们不想去。请，” AI 生成的古巴诺夫用俄语说，身穿带有乌克兰国旗的制服。“妈妈，妈妈，我不想去！” 这段视频是 NBC 新闻最近几周审查的 21 段乌克兰士兵的 AI 生成视频之一，这些视频似乎是使用先进的人工智能程序创建或操控的，结果有些视频真实得几乎没有其来源的线索。但在至少一半的视频中，一个小标志在角落里暴露了它们的真相：它们是用 Sora 2 制作的，这是 OpenAI 最新版本的文本转视频生成器。Sora 生成的一些视频使用了知名俄罗斯直播主的面孔，例如古巴诺夫，制作出戏剧性的深度伪造，而其他视频则显示乌克兰士兵集体向俄罗斯军队投降。那些似乎是由其他 AI 平台生成的视频也有非常微妙的错误，大多数人很难发现，例如乌克兰士兵穿着的制服和头盔的错误或简化版本。对乌克兰人来说，有一个明显的问题：大多数视频中的士兵讲俄语，而 21 段视频中只有 8 段是军事人员讲乌克兰语。这些视频在 YouTube、TikTok、Facebook 和 X 上传播，试图描绘乌克兰士兵不愿意战斗和准备放弃的形象。它们似乎是最新的虚假信息攻击，旨在扭曲公众对俄罗斯与乌克兰战争的看法。虽然不清楚是谁创建或发布了这些视频，但它们增加了越来越多的虚假信息，这些信息变得越来越复杂，难以识别。“使用 Sora 生成的虚假声明更难以检测和揭穿。即使是最好的 AI 检测器有时也会遇到困难，” NewsGuard 的俄罗斯影响分析师爱丽丝·李（Alice Lee）说，NewsGuard 是一个识别在线可靠和欺骗性信息的非党派数据、分析和新闻平台。“许多视频没有视觉不一致性，这意味着公众可能会在 TikTok 等平台上观看并快速滑过这些视频，而不知道他们刚刚看到的视频是伪造的。” OpenAI 没有回应关于 Sora 在创建误导性视频方面的作用的评论请求，但在一封电子邮件中表示：“Sora 2 生成超现实视频和音频的能力引发了关于肖像、误用和欺骗的重要担忧。”“虽然允许电影动作，但我们不允许图形暴力、极端材料或欺骗，” 该公司告诉 NBC 新闻。“我们的系统在内容到达 Sora Feed 之前会检测并阻止违规内容，我们的调查团队积极拆解影响操作。” 近年来，AI 生成的视频迅速发展，从基本和粗糙到近乎完美，许多专家越来越警告说，可能很快就会很难轻易区分真实与虚假。OpenAI 的 Sora 2 于 10 月发布，是最令人印象深刻的视频生成器之一，Sora 生成的剪辑现在常常欺骗观众。与此同时，俄罗斯对乌克兰的持续入侵自其最初阶段以来就是操控努力的主题，使用从逼真的视频游戏画面到虚假的战区直播等各种手段。这些虚假信息努力中的许多被归因于俄罗斯国家行为者。这些 Sora 视频的出现正值美国支持的和平谈判仍未达成共识，根据基辅国际社会学研究所进行的一项研究，约 75% 的乌克兰人明确拒绝俄罗斯结束战争的提议。该研究还发现，62% 的乌克兰人愿意忍受战争，无论需要多长时间，即使俄罗斯对乌克兰首都的致命打击仍在继续。乌克兰国家安全和国防委员会下属的反虚假信息中心告诉 NBC 新闻，在过去一年中，使用 AI 创建或操控的内容的数量 “显著增加”，旨在削弱公众对乌克兰政府的信任和国际支持。“这包括据称由乌克兰军事人员或指挥部发表的虚假声明，以及包含 ‘供述’、‘丑闻’ 或虚构事件的虚假视频，” 该中心在一封电子邮件中表示，并指出这些视频因其情感和耸人听闻的性质而获得数十万的观看次数。虽然 OpenAI 对 Sora 的生成内容设定了一些保护措施，但其有效性尚不清楚。该公司本身表示，虽然 “已采取分层保护措施，但某些有害行为或政策违规仍可能绕过缓解措施。” NewsGuard 的一项研究发现，Sora 2 在被要求时 “80% 的时间（20 个中的 16 个）生成了推进可证明虚假声明的真实视频。” 在提供给 Sora 2 的 20 个虚假声明中，有 5 个是由俄罗斯虚假信息操作推广的。NewsGuard 的研究发现，即使 Sora 2 最初对虚假声明进行了反驳，声称某个提示 “违反了其内容政策”，研究人员仍能够使用不同的提示措辞生成视频。NBC 新闻能够在 Sora 上生成类似的视频，显示乌克兰士兵哭泣，称他们被迫入伍或举起双手和白旗投降。许多 AI 视频生成器试图标记或水印其创作，以表明它们是计算机生成的。OpenAI 表示，其针对 Sora 的虚假信息安全保护措施包括标记视频来源的元数据和每个下载视频上都有移动水印。但有一些方法可以去除或最小化这些努力。一些 Sora 视频似乎其移动水印被遮挡，这在仔细检查时很明显。许多应用程序和网站现在为用户提供了一种遮挡 AI 水印的方法。NBC 新闻看到的其他视频则包括用文本覆盖在视频上遮挡水印。尽管公司政策指出 Sora AI 不会生成显示 “图形暴力” 的内容，但 NBC 新闻发现了一段水印显示乌克兰士兵在前线被击中头部的视频。在 NBC 新闻分析的所有视频中，所有视频都在 TikTok 或 YouTube Shorts 上发布——这两个平台在俄罗斯被禁止，但在欧洲和美国易于访问。一些视频包含各种语言的情感字幕，以便不懂乌克兰语或俄语的用户也能理解。TikTok 和 YouTube 禁止在其平台上发布欺骗性的 AI 生成内容和深度伪造，并为逼真的视频提供 “AI 生成” 描述标签以提醒观众。YouTube 的一位发言人表示，该公司在 NBC 新闻标记后删除了一个发布这些视频的频道，但另外两个视频并未违反其政策，因此仍在平台上，并标记为 AI 生成。NBC 新闻发现的带有 TikTok 用户名的 AI 视频全部已从该平台删除。TikTok 的一位发言人表示，截至 2025 年 6 月，“我们删除的违规内容中超过 99% 是在有人向我们举报之前被删除的，超过 90% 是在获得单次观看之前被删除的。” 尽管这些 TikTok 帖子和账户被迅速删除，但视频仍以转发的形式在 X 和 Facebook 上存在。X 和 Facebook 均未回应 NBC 新闻的评论请求。这场最新的虚假信息运动正值用户越来越依赖社交媒体视频来获取全球最新消息之际。“任何在线消费内容的人都需要意识到，我们今天在视频、照片和文本中看到的许多内容确实是 AI 生成的，” 美国阳光项目的联合创始人兼首席执行官尼娜·扬科维奇（Nina Jankowicz）说，该组织致力于对抗在线虚假信息。“即使 Sora 引入了 [安全] 保护措施，在这个领域仍会有其他公司、其他应用程序和其他技术，我们的对手会利用这些来试图感染我们的信息空间。”</p>
</div>

随着与俄罗斯的战争拖延，超现实的 AI 视频试图将乌克兰士兵描绘成处于危险之中