虚假营销、虚假账户……普通人：防止人工智能

原标题：制定行政、平台、用户协同共管多管齐下，防止人工智能技术滥用（民生第一线） 人工智能、深度融合等新技术快速发展，对经济社会发展和人民生活发挥着关键作用。但一些不法分子利用人工智能技术传播虚假信息，破坏网络生态，造成不良影响。多管齐下防止人工智能技术滥用，促进人工智能健康发展，有助于维护社会共同利益。 《人工智能生成合成内容标注办法》通过标签提醒用户识别虚假信息，明确相关服务主体的标注责任和义务，规范生产和传播各个环节的标注行为。一天后灰色产业链不断爆破，林某躺在床上刷着短视频，屏幕上出现了一个名为“AI理财助手”的账号。林浏览了自己的主页，发现该账号的粉丝数显示“8.7万”，但最新视频的点赞数还不到三位数。 “公式化的命名、同质化的内容和非标准化的交互数据是人工智能的标志。”某短视频平台内容安全部负责人刘山表示。 AI建号一直是一些自媒体的创收方式，利用AI生成并发布眼球内容，在短时间内吸引大量粉丝，然后通过带货或直接转号变现。 “利用AI选择区域来增加关注者，打造能够吸引关注者的个性。账户内容也可以通过AI生成。”销售“明星人工智能账号”的“培训师”杨说一方面，不受自媒体所需专业知识和技能的阻碍；另一方面，有助于精准吸引粉丝，保持“一致的性格”。此外，可以同时运营多个账号，形成矩阵，吸引流量，促进合作。《情感急救：人生低谷时如何避免情感崩溃》《深度治愈：潜意识里看到自己》……杨秀记者查看了一位刚刚开通账号的“心理博主”的账号页面，“其实文案都是由AI生成的。”北京邮电大学互联网治理与法律研究中心执行主任永江认为，平台除了加强执法打击外，还应提高深度造假内容的检测准确度，明确AI造假账号等违法行为的定义和处罚标准。 “造号-转化-转售”的灰色产业链是AI造号相对于其他AI造假现象的独特之处。 “根据反电信网络诈骗法，任何单位和个人不得非法买卖、出租、出借网络账户。”某电商平台安全运营负责人表示，目前各电商平台均已禁止账号倒卖。但部分账户交易仍通过社交媒体公开，并借助“mga淫秽暗语”私下进行。 “出售账户不仅是AI账户变现的一种方式，而且还常常伴随着诈骗等违法犯罪活动。北京师范大学法学院教授梁映秀建议监管部门督促平台履行治理责任，建立违法账户“黑名单”，加大对频繁、屡次违反平台规则的账户主的处罚力度，禁止非法账户带货、销售课程等商业活动，继续开展人工智能打假整治，切断不法分子的盈利渠道。有效破坏虚假内容营销。 “不久前，某短视频平台上，一位著名运动员“推销家乡农产品”，评论和弹幕里充满了“支持”、“为偶像增加销量”的诗意话语。 “其实这些视频都是买来的。AI技术生成社交名人图像并使用账号AVatars 冒充他人；民法典关于肖像权、声音权等相关法律法规的规定提供了相关保护。 《人工智能生成的合成内容标注办法》规定了人工智能生成的合成内容的标注要求。 “梁映秀认为，关键是严格执法、公正司法。”从平台角度来看，除了整合自身职责外，还应与用户挂钩，加强共同管理。 “腾讯海角相关负责人表示，用户发现短视频未标注人工智能生成标识，可提交相关材料进行投诉。经平台批准的附加解释将以浮动注释的形式显示在视频页面上。内容。火势在天空中蔓延！伤亡不明！”一则“视频新闻”在网络上流传，火苗熊熊燃烧。照片中，引起了当地民众的恐慌。随后，公安机关调查发现，这是账号机构利用人工智能批量生成的假新闻。新闻聚合平台认为反平台防虚假机制的有效性，并根据权威信息对相关谣言进行标注，并对非法账号进行处理。在虚假信息泛滥的高风险地区，可以通过司法解释等形式明确各方义务边界，进一步制定科学合理的人工智能侵权责任认定指导标准。各领域监管机构不断探索利用技术打击假新闻。 “我们正在与科研机构和企业密切合作，进一步提高对恶意‘深度宽恕’信息的监测、预警和快速识别能力。”该负责人表示。辽宁省沉阳市公安网安局局长如果因虚假消息而遭受损失，谁来负责？浙江师范大学著名教授乔巴生认为，如果内容生产者涉嫌欺诈，就必须承担违约责任；平台未履行审核义务的，须承担连带法律赔偿责任。此外，用户还必须提高识别虚假信息的能力。某短视频平台负责人建议，首先要注意内容的特点。例如，人工智能生成的文本往往存在逻辑空白、情感表达单一或事实细节模糊；视频可能存在不自然的面部表情、异常的光线和阴影或声音失真。二是核实信息来源，优先选择权威媒体或官方渠道。腾讯公司相关负责人建议，当一些人工智能生成的内容明显无凭据、误导性信息时，用户可以通过联系评论区等形式相互提醒，并通过投诉等形式及时向平台反馈。主管部门、平台和用户共同协调管理，通过技术检测、投诉机制、法律责任等共同筑起诚信的坚强防线。