当布鲁塞尔开始对伪造内容开出罚单，而巴西利亚仍在争论法律条文时，视频平台的算法已经找到了最理想的猎物：七十岁以上的老人
一位82岁的巴西女性有一次在视频平台上看到一段视频。画面中，一名身穿白大褂的男子用平静的语气讲解，饮食如何帮助老年人保护视力。她几乎立刻便毫无保留地相信了他。
平台其实已经明确标注，这段视频由人工智能生成，相关提示就显示在播放器上方。但这位女性要么没有注意到这条提示，要么根本没有把它当回事。她确信，自己看到的就是一名真正的医生。
然而，这名医生从来就不存在。他的面孔、声音乃至说话语气全部由算法合成。发布这段视频的频道赚钱的方式，也不是治疗患者，而是把患者的焦虑转化为广告播放量。
这段视频背后并非偶然事件，也不是某个神经网络爱好者的古怪实验，而是一套已经成熟、可以重复复制的商业模式。它可以用任何语言启动，也可以围绕任何疾病进行包装。
7000万次观看：虚假医疗已经变成一门产业
这起事件不是异常，而是整个产业的症状。
巴西一家专门从事数据新闻的非营利机构“撤销”展开调查后发现，至少有29个葡萄牙语视频频道利用人工智能生成的“医生”制作内容，累计播放量不低于7000万次。
另一项并行调查还发现，至少有50段以九种语言制作的教学视频，详细讲解如何从零开始打造这类频道。这些语言包括葡萄牙语、英语、印地语、西班牙语、法语、意大利语、波兰语、德语和土耳其语。
这套模式早已越过单一国家和单一语言的边界。它已经变成一种可以出口的产品，一种虚假信息特许经营模式，可以针对世界任何地区的老年受众进行本地化复制。
江湖骗子从来都有，但如今他们甚至不再需要一个真人
这套骗局并不是昨天才发明的。
十九世纪与二十世纪之交，英语报刊上的江湖药品产业曾经异常繁荣。当时的报纸广告几乎未经任何核查，就敢出售号称能够治疗癌症和肺结核的所谓神奇药剂。到了二十世纪三十年代，广播又催生了自己的“广播医生”。这些人拿着可疑的医学文凭直接在电台节目中宣讲，直到美国联邦监管机构开始大规模吊销他们的执照。
每一种新的传播技术都会经历几乎相同的阶段。从报纸到广播，从电视到今天的生成式人工智能，内容传播速度总会在一段时间内远远超过社会与法律建立防滥用机制的速度。
上个世纪最著名的案例之一，是美国所谓的广播医生约翰·罗穆卢斯·布林克利。二十世纪三十年代，他借助当时功率极强的边境广播电台，在没有正规医学教育背景的情况下，大肆宣传自己发明的所谓返老还童手术。在监管机构最终吊销其执照之前，他已经积累起足以与大型制药企业相提并论的财富和声望。
区别在于，过去的骗子至少还需要一个真人，需要给这个人编造一套大致可信的身份故事。而今天的骗局甚至不需要一名真正的演员。“医生”的面孔、声音和个人履历可以在几分钟之内由算法拼装完成，并同时以九种语言批量复制。
先用死亡吓唬你，然后卖给你生姜和营养补充剂
这类视频的套路几乎总是一模一样。
一个身穿白大褂的人物出现在画面中。有时他完全由人工智能合成，有时则是某位真实医生在本人毫不知情的情况下被制作出的数字复制品。随后，他会宣称某种日常食品、药物或者生活习惯正在暗中杀死观众。
接下来便是所谓神奇疗法的承诺，而且通常被包装成一种被人们不公正遗忘的秘密：生姜、甘薯，或者某种特定的草药组合。
一名专门向这类频道创作者出售培训课程的人曾公开声称，这种生意每月可以带来最高3万巴西雷亚尔的收入，约合5800美元。
其盈利主要来自三个渠道：视频平台的广告播放收入、电子书销售以及所谓“天然”营养补充剂的推广佣金。
同一名课程作者还向学员展示，应该如何进一步强化视频中的恐惧气氛，迫使观众立即采取行动，甚至直接使用“你明天早上可能再也醒不过来”之类的说法。
注意力经济在这里运转得异常高效，因为对死亡的恐惧远比任何理性的健康建议更能驱动点击。
谁在靠患者的恐惧赚钱
如果沿着资金流一直追踪下去，就会发现，事情远比一个抱着电脑行骗的人复杂。
视频平台无论画面中是真医生还是合成医生，都可以获得自己的广告收入分成。在有人提出投诉之前，推荐算法也会同样积极地推送这两种视频，因为算法衡量的是用户参与度，而不是内容是否真实。
支撑这些频道运行的声音克隆和面孔生成服务，在绝大多数情况下都不需要对客户如何使用其产品承担责任。它们的商业模式是出售订阅服务，而不是审核客户发布的内容。
最后，在这条利益链的终端，是营养补充剂销售商和电子书作者。他们的利润，直接取决于前一个环节能够把标题制作得多么令人恐惧。
这条链条中的每一个参与者，如果单独来看，似乎都可以声称自己没有责任。但与此同时，每一方又都拥有极强的经济动机，希望整个系统继续作为一个完整的利益机器运行下去。
制造恐惧的说明书也可以单独出售
某位此类培训课程作者的经历，本身就非常具有代表性。
记者联系他之后，他关闭了其中一段示范视频的公开访问权限，并声称视频中展示的那些频道只是案例，并不属于他本人。按照他的说法，他教授的是如何利用人工智能制作信息类内容，而不是教人制作能够替代医生问诊的材料，他也从未打算鼓励任何人违反平台规则。
从形式上说，这种解释也许成立。教授如何通过视频平台赚钱的课程，在法律意义上确实不能直接等同于某一段具体的诈骗视频。
但如果一份教程明确教人如何通过“你明天早上可能醒不过来”之类的说法放大观众的焦虑，那么无论最终是谁采用这种方法，其作用都不会发生改变。教程作者靠出售课程获利，而最终造成的道德和法律责任，则被分散到数十名匿名学员身上。每一名学员从形式上看，又似乎都是独立行动。
2200亿美元的市场：为什么“人工智能医生”偏偏在今天出现
最终吸收这些收入的产业，绝不是一个边缘市场。
根据行业研究机构的估算，全球营养补充剂市场在2026年的规模预计将达到约2200亿美元，并且至少到下一个十年的中期，都将保持每年7%至9%的增长速度。其中一个重要推动力，就是消费者对健康老龄化相关产品的需求不断扩大。
合成医生并没有创造这种需求，它们只是寄生在这种需求之上。它们利用消费者早已存在的、规模高达数千亿美元的对传统医疗替代方案的兴趣，然后在上面增加一个全新的层次：一个几乎不需要成本、由算法批量生产出来的白大褂权威形象。
为什么老年人成了最主要的目标
目标受众的选择并非偶然。
几十年来，全球人口中六十岁以上人群所占比例一直持续上升。广告行业早已把这一趋势视为需求结构发生变化的长期信号，而不是一种短暂的市场潮流。
根据联合国的估算，到2050年，全球每六个人中就有一个年龄超过六十五岁，这一比例几乎将达到今天的两倍。
对于合成医疗频道的运营者而言，这并不是什么抽象的人口统计数据，而是一个明确的投资方向。如今仍被许多人视为细分市场的老年受众，只需再过一代人的时间，就可能成为所有视频内容消费者中规模最大的群体之一。
老年人在视频平台上花费的时间比很多人想象的更多。他们对所见内容进行交叉核查的频率相对较低，而且往往拥有可以自由支配的收入，这些资金很容易被引导去购买视频中推销的营养补充剂。
制作这类内容的人甚至在自己的培训材料中公开把老年群体称为一个利润丰厚的市场。原因并不是老年人天真，而是他们拥有时间、金钱，更重要的是，对于诈骗式营销漏斗而言，他们通常保留着对身穿白大褂的医生形象的传统信任。这种信任是在几十年的线下医疗实践中形成的。
85岁的患者用甘薯代替了药物
这种现象造成的后果并不仅仅停留在理论层面。
对这类视频下方约2.7万条评论进行分析后，研究人员发现了数十起案例。一些自称老年人的观众，在合成医疗建议的影响下，真的改变了原本正在接受的治疗。
一名85岁的评论者声称，自己已经用甘薯取代了奥美拉唑。奥美拉唑是一种抑制胃酸分泌的药物。
一名77岁的女性写道，她已经三年没有去看医生，并且还感谢一位根本不存在的“医生”向她提供有关痴呆症的建议。
接受采访的胃肠病专家指出，这里同时存在两种危险。第一，患者可能因为相信这些建议，而把真正的医学诊断推迟数周，而这些时间往往至关重要。第二，患者可能使用无效的手段，甚至使用与现有治疗不相容的方法，从而直接伤害自己。
患者的亲属往往直到事情发生之后才知道，真正的治疗已经被替换。此时向患者开出代价账单的已经不再是诈骗频道，而是医院，因为患者最终可能由于延误诊断造成的并发症而被送去急救。
骗子最主要的武器不是人工智能，而是人的恐惧
这类视频所采用的方法早已被营销教材反复总结：用强烈制造焦虑的标题吸引注意，宣称危险即将发生，再要求受众立即行动。这是绕过理性事实核查最可靠的方法之一，因为一个受到惊吓的人首先寻找的是立刻解决问题的办法，而不是信息来源。
从一般意义上说，老年受众并不一定比其他人更容易轻信。但他们更可能在独处时作出这类决定，无法立即向亲属或者熟悉的医生核实信息。恰恰是这种环境，把一瞬间的恐惧转化成了即时购买，而不是一个被暂时搁置、等待进一步求证的问题。
如今，偷走一名医生的脸只需要几分钟
另一类损害，则是真实医生身份被盗用。
至少有五个频道未经许可使用一名巴西知名胃肠病专家的形象，用来传播令人恐慌的健康说法，并宣传所谓天然方法，以替代医生已经开具的药物。该医生随后向视频平台提出投诉，并向圣保罗警方报案。
巴西法律界人士指出，这种行为在形式上已经符合诈骗和冒用身份相关法律条款的适用条件。但执法能力系统性地落后于这一现象扩张的速度。当一起案件还在调查时，算法已经能够制造出数十个新的克隆版本。
骗子在一个国家，受害者在另一个国家，钱却流向第三个国家
司法管辖权的混乱，又在系统层面进一步放大了问题。
一个频道可能使用某个国家注册的账号，通过广告推荐算法精准面向另一个国家的受众，而收入最终又通过第三个国家的支付系统提取。无论是巴西警方、欧洲监管机构，还是视频平台本身，任何一方单独行动，都没有能够通过一个决定切断整条利益链的工具。
目前，从经合组织有关人工智能监管的工作组，到不同国家消费者权益保护机构之间签署的双边备忘录，各种国际协调机制仍然主要停留在讨论原则的阶段，而不是建立针对跨境医疗欺诈的具体紧急应对机制。
从圣保罗到首尔：同一套骗局几乎原封不动
这绝不仅仅是巴西或者葡萄牙语世界的问题。
韩国监管机构今年夏天公开承认，现行法律在面对冒充医生的人工智能频道时几乎无能为力。法律只有在内容直接宣传某种具体商品时才允许监管机构介入，而内容制作者正在有意识地系统规避这一条款。
韩国有一个频道拥有超过3.6万名订阅者，它曾虚假宣称自己与一家大型大学附属医院存在合作关系，并发布诸如“一名拥有25年从医经验的内科医生为什么每天喝醋的七个原因”之类的视频。
从圣保罗到首尔，这套骗局的结构几乎没有任何变化：合成出来的权威形象，加上一条法律漏洞。之所以能够如此稳定地复制，是因为技术本身和盈利模式在任何国家都基本相同。
真正发生变化的，只有字幕所使用的语言，以及那张被盗用面孔的国籍。
数十亿美元流入骗子口袋，而这还只是看得见的部分
这一现象所处的整体背景，其规模令人震惊。
根据美国联邦贸易委员会的数据，60岁以上美国人因诈骗遭受的损失在四年间增长了近四倍，从2020年的约6亿美元增至2024年的24亿美元。该委员会同时估计，考虑到大量受害者并未报案，实际损失最高可能达到815亿美元。
美国联邦调查局在2025年报告中记录，同一年龄群体申报的诈骗损失已经达到77.48亿美元，受害者超过20.1万人，同比增加59%。
其中，有3.52亿美元损失被联邦调查局明确认定与人工智能在诈骗中发挥关键作用有关。
视频平台上的假医生，只是这个庞大诈骗产业伸出的众多触手之一。但这只触手直接瞄准的并非受害者的钱包，而是他们的健康，因此潜在后果可能更加致命。
与此同时，美国联邦机构自己也承认，问题的真实规模长期遭到系统性低估。美国监管机构估计，每20名诈骗受害者中，真正报案的不足1人。这意味着目前统计出来的数十亿美元损失，不过是冰山露出水面的部分，而隐藏在水下的主体在统计意义上几乎不可见。
视频平台会删除频道，但往往是在它们获得数百万次观看之后
拥有该视频平台的谷歌公司目前主要给出的是一种原则性回应。公司强调，现行规定同样适用于人工智能生成的内容，并禁止传播可能在现实生活中造成严重伤害的医疗虚假信息。
研究人员向公司提交调查结果后，平台删除了样本中几个规模最大的频道。这些频道此前累计获得约4100万次观看。
“现实生活中的严重伤害”作为原则听起来十分有力，但作为预防性监管工具却几乎难以真正发挥作用。平台通常是在事件发生之后，根据附有证据的具体投诉采取行动，而不是建立能够在新克隆频道获得最初10万次观看之前就阻止其发布的过滤机制。
自2025年7月起，平台正式收紧了针对所谓非真实内容的政策。涉及健康等敏感主题的视频，必须在播放器上方明显标注其内容具有合成来源。
2026年初，16个大型频道在这一轮整治中受到处理。这些频道累计获得47亿次观看，每年广告收入约1000万美元。不过，其中大多数被发现制作的是虚假电影预告片和泛滥的低质人工智能内容，而并非专门传播医疗虚假信息。
那位相信合成医生的老年女性恰恰证明了问题所在。视频上方确实存在提示标签，但这并没有阻止她相信画面中的“医生”。
标注可以帮助平台降低法律责任，却未必能够保护某一位具体的老年观众。尤其是对于成长于一个“屏幕上穿白大褂的人就意味着专业权威”的时代的人而言，效果更加有限。
为什么防护技术已经输给欺骗技术
在生成合成内容与识别合成内容之间的技术竞赛中，结构性优势并不属于防守方。
目前被视频平台及其他网络服务逐步纳入审核系统的“内容来源与真实性联盟标准”，可以通过密码学方式对文件的生成方式、生成工具等元数据进行签名。但这套机制只有在内容制作者自愿使用合法登记的生成工具并接受标注时才能有效运行。
如果骗子使用未经授权或经过专门修改的模型，目的本来就是绕过数字签名，那么这套系统几乎无法构成障碍。他只需要不嵌入这些原本就并非强制要求提供的元数据即可。
依靠图像和声音中的技术痕迹进行事后识别的检测器，其淘汰速度甚至可能快于自身完成新一轮训练的速度。商业化声音和面孔合成工具每隔几个月就会升级，而开发和验证新的识别系统往往需要几个季度。
欧洲已经引入数百万欧元罚款，但问题依然存在
监管反应不仅姗姗来迟，而且在不同地区之间极不均衡。
2026年8月2日，也就是不到一个月前，欧盟人工智能法第50条正式生效。这一条款首次要求生成式人工智能系统的开发者为合成内容嵌入机器可读标识，同时要求使用相关技术制作深度伪造内容的人向观众明确披露这一事实。
违规者可能面临最高1500万欧元，或者相当于全球营业额3%的罚款，具体按照金额更高的一项执行。
负责细化技术标识标准的实践准则目前仍在由欧盟委员会完善。第一版草案于2025年12月公布，相关咨询在2026年6月3日结束，最终版本预计将在今年晚些时候出台。
换句话说，法律在形式上已经生效，但真正执行法律所需要的工具仍处于建设阶段。
法律仍困在议会时，巴西已经成为问题的生产基地
在大多数上述频道的来源地巴西，情况恰好相反。法律落后于技术发展的程度尤其明显。
巴西联邦人工智能法案早在2024年12月就已经获得参议院一致通过，但自2025年3月起一直滞留在众议院。
2025年12月，行政部门又提出一项补充法案，以解决原有文本中的宪法冲突。最初的法案试图赋予国家数据保护局监管权力，但按照巴西宪法，这种授权方式涉及总统的专属权限。
在这一冲突解决之前，最终表决始终无法推进，法案规定的最高5000万巴西雷亚尔罚款也仍然停留在纸面上。
问题主要来源国与最早收紧监管规则的地区之间存在巨大落差。这并非一个单纯的技术细节，而是合成医生产业能够扩张到今天这种规模的结构性原因之一。
今天是假医生，明天可能就是假总统
制造假医生所依赖的技术，包括声音克隆、面孔合成以及生成高度可信的语言内容，与已经被用于干预选举进程的工具在本质上没有区别。
2024年1月，新罕布什尔州初选前两天，数千名选民接到自动电话。电话中使用了经过克隆的时任美国总统拜登的声音，劝说他们不要参加投票。组织这次电话传播行动的政治顾问史蒂夫·克雷默随后被美国联邦通信委员会处以600万美元罚款，并面临26项刑事指控。
一个向老人推销甘薯来替代奥美拉唑的骗子，与一个试图操纵选民投票率的政治操盘者之间，距离其实比想象中短得多。两者都受到生成模型匿名性的保护，也都建立在同一种计算之上：受众往往会先相信熟悉的声音，然后才想到核实事实。
到了2026年，商业诈骗与信息战行动使用的已经是同一套工具。二者的区别只在目标，而不在技术。
一个算法既能欺骗一名老人，也能欺骗整个国家
问题的规模早已超出普通消费者诈骗的范畴。
大西洋理事会数字取证研究实验室的分析人员早在2025年就已经发现，敌对行为体正在系统性地把合成媒体嵌入既有的信息行动模式中，而不是重新发明完全不同的手段。
开放人工智能公司在2025年3月至6月期间公开披露并封禁了多个与中国有关的网络，其中包括一项大规模生成虚假社交媒体评论的行动。这些评论被用来制造某些叙事获得普通用户自发支持的假象。
在2025年夏季伊朗与以色列的军事冲突期间，由人工智能生成的虚假视频曾在数小时内以五种语言传播，其中包括所谓导弹袭击特拉维夫以及美国第五代隐身战斗机被击落等根本不存在的事件。与此同时，以色列方面代号为“越狱”的信息行动，也能够在真实军事打击发生约一小时后迅速推出合成内容。
世界经济论坛在2026年全球风险报告中明确指出，虚假信息几乎能够放大所有其他系统性风险，从选举危机一直到金融危机。
一种早上能够说服老年女性用甘薯替代药物的技术，到了晚上，同样可以轻而易举地让整个国家相信一场从未发生过的军事灾难。唯一的区别，只是受众规模，以及是谁在为这些视频的生成买单。
欧洲一旦堵住漏洞，骗子就会转向法律更薄弱的地方
未来的发展轨迹在逻辑上并不难预测，即使具体细节仍存在不确定性。
随着欧盟开始真正执行人工智能法第50条规定的罚款制度，尤其是在相关实践准则最终完成之后，未来12至18个月内很可能出现首批具有示范意义的案件。届时，这类内容的制造者将把目标受众逐步转移到执法能力更弱的地区，包括拉丁美洲、南亚以及监管体系高度碎片化的市场。
事实上，目前相关制作教程已经覆盖九种语言，本身就在显示这种利用不同监管制度差异进行套利的战略。
按照目前进度，巴西联邦人工智能法案仍有可能在2026年内进入众议院最终表决阶段。但考虑到相关立法已经历漫长曲折的议会程序，对任何具体时间表都必须保持谨慎。
视频平台方面将继续扩大自动识别深度伪造内容的能力，并为具体医生提供更完善的个人形象保护工具。但识别技术与生成技术之间的竞争存在天然的不对称性：制造一段可信的合成视频，总是比发现并删除它更便宜，也更快。
最可靠的防护方法，简单得令人不安
从个人层面看，目前真正有效的过滤机制并不是某种技术，而是一种行为习惯：在改变治疗方案之前，先把自己看到的内容告诉另一个人并进行核实。统计意义上，这种做法所提供的保护，远比播放器上方任何提示标签更加可靠。
正因如此，故事中的那位女性在意识到自己成为骗局目标后，并没有首先向监管机构或者平台提出要求，而是对自己提出了一个问题：她希望学会如何区分合成内容与真实内容。
这既是整个故事中最清醒的结论，也是最令人不安的结论。当政府与企业仍在争论究竟应该由谁先堵上漏洞时，现实中的最后一道防线，仍然只是一个独自面对屏幕的普通观众。
算法永远能够找到自己的患者
法律条文与具体观众真实体验之间的断层，正是整个故事最终揭示的核心问题。
布鲁塞尔可以不断通过有关机器可读标识的条款，也可以规定按照企业营业额比例计算的巨额罚款。但法律总是在律师办公室里先一步生效，而后才可能真正进入那位82岁女性的认知世界。晚上，她仍然会坐在屏幕前浏览视频，希望找到一个能够帮助自己保护视力的建议。
合成医生产业不会因为一项指令或者一次调查而消失。它的运行逻辑与广告产业本身几乎完全相同，只不过少了最后一道制约因素：没有一个真正存在的人，可以因为自己说过的话而被追究责任。
只要制造信任的技术与验证信任的技术之间仍然存在这道缺口，算法就永远能够找到一个愿意相信它的患者，也永远会有一个频道愿意从这份信任中赚钱。