“纯软件生成，10天出3000多条结果，新手也能做”“用大模型，7分钟写了9篇短篇小说，大家都报名了”“下班后用大模型制作虚拟素材，半个月自动收到750单”……只要打开任何一个社交平台，到处都会看到类似的标语。您是否曾考虑过，互联网上大量流行的文章和视频并不是由真人撰写的？更重要的是，人工智能量产的“工业产品”中有很大一部分是违背事实、散布错误信息来博取关注和牟利的。社交平台上有很多帖子推荐借助A​​I赚钱（截图来自网络）。经过半个多月的调查，记者发现，一条涵盖AI内容生成、教程销售、流量划分、营销推广的山寨产业链已悄然形成。实现。不仅误导广大网络用户，而且影响网络交流秩序和经营环境的正常秩序。一键“衍生创作”，AI分割。从各地网信部门、公安部门公布的案例来看，利用大规模人工智能模型生成文字、视频散布谣言的现象已屡见不鲜。事实上，在整个造假产业链中，利用AI制造谣言只是一个起点。具体来看，整个产业链涉及多种收入方式。最常见的是，造假者使用专有媒体阵列发布大量虚假人工智能内容，以吸引更多关注。他们不仅可以通过平台的流量分享机制和嵌入广告来赚钱，还可以利用关注度来推广他们的服务。与此同时，不少企业和个人都在宣传“AI教程”。他们一个熟悉平台的流量和广告分发机制，将开发相应的“AI生成课程”及相关服务。您还可以通过出售生成的课程和服务来赚钱。 MCN等证券公司也是产业链的一部分。有些人会指导他们的账户从人工智能生成中受益，而另一些人会帮助相关账户满足“市场需求”。但也有一些诉讼不那么光鲜亮丽，比如抹黑一些企业、行业甚至名人的“小黑纸”。这些 obIncome 保留方法各有其特点，并且相互交织。其核心是“人工智能欺诈”。现实生活中，谣言的产生和传播往往与各种利益链条交织在一起。一个典型案例是近期“宁波外卖商联合放弃平台”的传闻被宁波市餐饮行业烹饪协会辟谣。追踪inf的来源消息显示，“宁波外卖商被集体下架”的消息最初是由一个以课程宣传为主要内容的短视频账号报道的。一个账号的帖子之所以能迅速成为热门话题，是因为该账号并非孤军奋战，而是有20多个同名账号，发布了约40条内容相似的消息。这些儿子就是这个谣言的来源。 40 多条消息中的许多消息都包含人工智能生成的文本和图像。进一步调查发现，这20个账号属于同一家公司，其主营业务是服务培训，或者干脆“卖课程”。公司拥有200多个社交平台账号。如果你看一下这些账号发布的内容，就会发现他们的主要运作方式就是发布多条消息来吸引流量。主播销售培训课程。 “宁波外卖商下架”的不实信息溯源结果显示，第一条假新闻出现一周后，相关人工智能生成的文字和图片就开始出现在各个社交平台上，各种形式的“二次创新”谣言达到百余条。一周后，谣言的变种出现：“山西忻州外卖产品集体下架。”“眼球效应”能赚多少钱？记者通过社交平台购买了一系列号称“10天收入3000元的保姆级视频账号教程”，下单后，记者收到了对方发来的一个网盘链接，里面讲解了如何去除别人发布的《心灵鸡汤》的水印，以及如何利用AI生成衍生作品的照片和视频。只要使用正确的工具，每天都会产生。至于“10天赚3000元”，则是基于平台整合的广告兑换、直播和小店销售机制。主要来源是分享广告。记者获得的“AI教程”部分截图。知情人士还为记者做了详细的计算。只需看看社交平台提供的共享流量和综合广告收入，更不用说相关的高知名度帐户推广其产品和服务所赚取的利润了。以社交平台的植入式分发系统为例。对于一个拥有1000个粉丝、每篇文章浏览量达到1000次的视频账号，如果支持植入式广告，一篇文章的广告收入可以从几十元到几千元不等，具体取决于账号的定位、内容是否原创、植入广告的数量和位置。“不要小看10元以上的价格，因为赚钱吸引关注的公司有数百甚至数千个账号。因此，人工智能撰写的同一主题的不同角度、不同内容的文章会被平台认定为‘原创’，可以产生相对较高的广告收入。加起来，谣言可以产生数千元的收入。”该负责人回忆道。热门产品“咀嚼”假冒产品有“试用”和“问题”。有些人通过人工智能赚钱，另一些人教别人如何使用人工智能赚钱。有些人暗中支持人工智能，将自己的“诉求”公开，通过造假赚钱。在多个社交平台和知识付费平台上，“AI热写秘笈”、“文案基础”等教程随处可见，价格从十几元到上千元不等，还提供免费的AI教程。在一个社交平台上创建了一个帐户，声称免费分发“AI副业”教程。对方向记者介绍了“AI写作群​​”，并宣传了该公司开发的一款AI写作网站。使用本网站并按字数付费。目前优惠价为9.9元生成10万字。 AI生成什么样的句子？据客服介绍，需要自己输入说明才能看到成品。然而，他们提供的“流行材料”作为参考包括“遵循妻子和火葬场的惯例”、“原生家庭缺陷”和“陌生的亲戚/同事/室友”。客服还表示，利用AI生成相关文章和视频后，可以发布到社交平台上，获得流量分成，还可以发布到一些网络文学平台上，这样收入会更高。 。课程期刊提供的“AI Current Articles”已购买（截图） 记者联系了另一位推动并行人工智能工作的“导师”。他还毫不犹豫地表示，“选择主题是人工智能赚钱的关键”。为了展示自己的“丰富经验”，他向记者介绍了一些基本的“选题方向”。 “卖得很惨”是他给出的第一条建议。他说，利用人工智能很容易产生关于人们在不幸的情况下出售食品的谣言。 “骑自行车的人在极端条件下出售食物”是一个典型的话题。 “用AI生成在中国送餐的乘客、被顾客误解的乘客、家庭困难但坚守岗位的乘客等内容，结合煽情的文字，很容易引发同理心和移情。他还建议，这种话题选择可以体现出一种“真假参半”的感觉。“如果你拍了街头送餐的场景，平台不会轻易检测到。ct，它是人工智能生成的。”他还建议，如果卖不幸的话题感觉相似，你也可以做相反的事情：炫耀你的财富。“有些人发布骑自行车的不幸，但你也可以成为骑自行车的人来炫富。用AI生成“骑车人月入3万元买豪车”、“我开外卖，三年内全款买房”等内容，用对比来活跃话题。”这位“导师”表示，这类稿子可以以真实事件为话题，用AI生成“治愈”、“励志”、“煽情”等不同风格的“心灵鸡汤”。这位“导师”表示，购买付费服务的记者还可以学习如何修复人工智能生成的内容痕迹以及如何识别敏感语言以避免平台调查。此外，用户还可以“在企业广告和自有广告中输入订单”。从人工智能欺骗和盈利的角度来看，已经形成了一条完全的灰色链条：“教程销售→工具推荐→内容生成→业务订单”。“以魔法战胜魔法”人工智能生成的虚假内容在网络空间混乱传播，真的处于无人监管的真空状态吗？答案显然是否定的。去年9月1日，《标签措施》正式施行。人工智能生成和合成的内容受到保护，以便用户可以清楚地识别内容的来源。明确规定文字、照片、视频等内容必须明确标识。经过记者的实际测试和验证，我们发现传统的大型模型在内容生成时首先会执行此规定。当您生成手稿时，它会在末尾自动标记为“此内容包含 AI 生成的部分”。瓦时当您生成照片或视频时，半透明的“人工智能生成”水印也会添加到内容的一角。同时，当此类带有标签的人工智能生成内容上传到多个社交平台时，发布界面会出现弹窗，并提示：“经测试，该内容包含人工智能生成元素，发布前将按照规定带有标识。”需要合规标签。现在许多社交平台都要求对包含人工智能生成的清晰痕迹的内容进行标记（互联网截图）。不过，造假者也总结出“不贴标签”的技术。即文本内容会直接去掉末尾的AI标签。对于照片，您可以通过裁剪、拉伸或稍微调整色调来删除水印；对于视频，您可以使用编辑工具裁剪带有徽标的剪辑。另外，您还可以通过调整格式或二次转码的方式清除文件属性中的AI标签。后一个经过处理后，一些人工智能生成的内容将作为“原创”公开发布在社交平台上，普通用户很难识别。面对这样的监督，治理应该如何进行？人工智能行业人士尤其给出的答案是，进一步展示“以魔制魔”的威力，即利用人工智能技术打击人工智能欺诈。他还举了现实生活中的例子。近日，一则以送餐员为主角的假新闻出现在网络上。这些信息包括文字故事、乘客工作时的照片和短视频，主题是“送餐平台根据乘客的‘贫困’下订单”。分配。例如，将较难交付、收入较低的订单分配给较贫困的乘客。因为可怜的乘客不会说不。”当地媒体利用大机型的判别能力来核实该消息，发现部分机型大佬认为留言文字ge 是由人工智能生成的，而其他人则认为文本是手写的。然而，当模型识别消息中使用的照片和视频时，它指出存在肉眼看不见的“人工智能生成的痕迹”，并且并未被破坏。最终，这条消息被认定为AI骗局。尤其解释说，这次识别成功的核心在于，越来越多的大规模模型开发者开发出了识别工具，可以准确捕捉AI生成内容的隐藏特征。国内不少科技公司和科研院所也正在开发专门的人工智能生成内容检测工具，通过对文本语义模式、句子规律和逻辑连贯性、图像中的光影和人物的物理细节进行详细分析。 “更进一步，我们希望让更多的人工智能能够生成肉眼看不见的隐藏水印。“你的神秘水珠不会影响视觉效果，也不会影响传统修改操作的记录、颜色渐变和转码。由设计者提供，水珠技术会无形中促进你的活动。”该特征是通过识别技术视角来创建防御线的初始防线的特征，该平台是执行能力实施的“守护者”。调查人员对 IA 实践进行了调查，并利用 IA 商业伪造方法探索了“反反歧视”平台的持续方法，以信息传播和文学创作为中心。由于 IA 生成的缺陷，允许造假者受益解决问题的平台补偿机制的剂量。令人遗憾的是，在平台上建立了一个统一的责任和实施初始修订机制的“陈词滥调”。但这一次，你可以充分利用你的技术力量。 La plataforma está conectada a un modelo maduro de contenido detección de contenido a grand escalagenado por IA y ha establecido un process de revisión normalizado: “Detección previa al lanzamiento – Alertas de contenido sospechoso – Interceptación de contenido ilegal”。特别是，检测常见的内容，包括文本、照片和视频，并实时拦截当前情况。我们不允许在网上发布经过人工智能修改或未标记的内容。多次发现违法、虚假内容的，将受到限流、封禁、永久账号封禁等渐进制裁。特别是对于经常出现的热点话题在“AI副业”培训中，要加强针对性审核，快速删除虚假内容，遏制恶意针对性传播。为了验证识别效果，记者还从各自媒体精选了大量热点事件的二次报道，发送给几位全国领先模特进行识别。结果，大量的心灵鸡汤被发现“没有证据表明是人工创造的”或“高度怀疑是人工智能生成的”。如果您查看这些自有媒体帐户，您会发现它们通常与同一主题相关。不难猜测，托运人希望从这些人工智能生成的文章中赚钱。当记者用大规模全民识别模型测试自媒体发布的部分《心灵鸡汤》时，发现AI的集中度极高。据业内专家介绍，虽然测试结果结果并非100%准确，有很强的参考价值，而且随着技术的发展，AI识别的准确率还可以进一步提高（网络截图）。如果发布平台能够提前接入大规模的识别模型，在信息披露之初就对人工智能生成的内容进行标注，剔除潜在的误导性信息，是否能够从源头上减少谣言的传播和传播？当然，利用人工智能控制欺诈完全取决于监控和技术。你不能。他说国家维护同样重要。在信息爆炸的时代，面对动辄十几万元的网络访问和看似安慰人心的鸡汤，公民应保持理性判断，不要盲目相信或随意转发。如果你相信纯粹基于情感共鸣的传播，那么人工智能创造的虚假内容很可能会让你感到困惑，让你陷入更深的困境。形成茧。 （该传闻被上海互联网否认）