manbet【元宇宙导读】利用AI人工智能技术炮制虚假信息，是一种严重危害网络安全和社会稳定的违法行为。近日，甘肃省平凉市公安局网安大队侦破了一起这样的案件，这也是该省自《互联网信息服务深度合成管理规定》颁布实施后，侦办的首例案件。本文将对该案件的背景、过程和影响进行分析，并探讨如何防范和打击这种新型网络犯罪。

　　4月25日，平凉市公安局崆峒分局网安大队在日常网络巡查中发现，某百度账号出现一篇标题为“今晨甘肃一火车撞上修路工人 致9人死亡”的文章，初步判断为信息虚假不实。

　　网安民警随即开展工作，发现共计21个百度账号均在同一时间段发布该文章，文章内容地点除平凉市崆峒区外还涉及兰州、陇南、定西、庆阳等地，文章点击量已达1.5万余次。

　　经查，涉案百度账号均为广东深圳某自媒体公司所有，公司法人代表洪某弟有重大作案嫌疑。5月5日，专案民警在广东东莞嫌疑人住处对其使用的电脑及百家号进行取证。

　　经审讯，犯罪嫌疑人洪某弟通过微信好友获知网络赚取流量变现方法，并购买大量“百家号”。同时使用“易撰”网页版，在全网搜索近几年社会热点新闻，为规避百家号查重功能，洪某弟通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后，使用“海豹科技”软件上传至其购买的百家号上非法获利。

　　ChatGPT是一款基于深度学习的自然语言生成（NLG）软件，可以根据用户输入的文本或关键词生成相关的内容。该软件利用了GPT-3.5模型的技术，可以生成流畅、连贯、逻辑性强的文本。ChatGPT可以应用于多种场景，如聊天机器人、创意写作、文本摘要等。

　　洪某弟利用ChatGPT软件编造虚假信息的方法是：首先，在“易撰”网页版上搜索近几年发生过的社会热点新闻事件，并选择其中一个事件作为素材。然后，在ChatGPT软件中输入该事件的关键词或部分文本，并设置生成长度和风格。接着，点击生成按钮，软件就会根据输入的内容生成一篇与之相关但不完全相同的新闻文章。最后，洪某弟将生成的文章复制粘贴到“海豹科技”软件中，并选择一个合适的标题和图片，上传至其购买的百家号上。

　　例如，“今晨甘肃一火车撞上修路工人 致9人死亡”的文章就是洪某弟利用ChatGPT软件编造出来的。他在“易撰”网页版上搜索了2018年发生在江苏省盐城市的一起火车撞上修路工人致9人死亡事故3manbet，并将其中一段文本输入到ChatGPT软件中，并设置生成长度为500字，风格为新闻报道。软件生成了以下内容：

　　今晨6时许，在甘肃省平凉市崆峒区境内发生了一起严重交通事故。一辆由兰州开往西安方向的货运列车，在经过一个施工路段时，与正在修路的工人发生碰撞。事故造成9名修路工人当场死亡，另有3名工人受伤。目前伤者已被送往附近医院救治。

　　据了解，事故发生时，货运列车正以每小时80公里左右的速度行驶。由于施工路段没有设置明显的警示标志和信号灯，司机没有及时发现前方有修路工人，并且由于距离太近无法刹车停车。货运列车与修路工人发生剧烈碰撞后，列车出轨并冲出铁轨约50米。

　　目击者称，事故现场十分惨烈，“听到一声巨响，就看到火车冲出铁轨，修路工人被撞飞了。”“有些工人被卡在火车下面，有些工人被甩出去很远。”“有些工人身体被撕裂了。”

　　事故发生后，当地公安、消防、交通等部门迅速赶到现场进行救援和处理。目前事故原因正在进一步调查中。

　　洪某弟将这篇文章复制粘贴到“海豹科技”软件中，并添加了一个虚假的标题和图片，并上传至其购买的百家号上。

　　洪某弟利用AI人工智能技术炮制虚假信息，并散布在互联网上，被大量传播浏览，其行为已涉嫌寻衅滋事罪。目前，崆峒公安分局对犯罪嫌疑人洪某弟采取刑事强制措施，案件正在进一步侦办之中。

　　一方面，案件暴露了AI人工智能技术在网络信息传播领域可能带来的风险和挑战。AI人工智能技术具有高效、智能、灵活等特点manbet，在各个领域都有广泛应用和巨大潜力。但是，在不法分子手中，AI人工智能技术也可能成为制造和传播虚假信息、误导舆论、干扰社会秩序、侵害他人合法权益等违法犯罪活动的利器。因此，如何有效监管和管理AI人工智能技术在网络信息传播领域的应用和使用，如何防止和打击利用AI人工智能技术炮制虚假信息的手段和能力，如何提高对这种新型网络犯罪的防范和应对能力，成为我国的当务之急。

　　另一方面，该案件也反映了人类社会在利用AI人工智能技术进行网络信息传播方面的创新和进步。我国已经建立了一批具有国际影响力的AI企业和研究机构，开发了一系列具有自主知识产权的AI产品和应用，为传媒行业提供了强大的技术支撑和服务manbet。我国还积极推动AI人工智能技术在新闻生产、分发、反馈等各个环节的应用，提高了新闻传播的效率、质量和影响力manbet。我国还注重培养AI人工智能技术相关人才manbet，加强AI人工智能技术相关教育、培训和交流，为我国在AI人工智能技术领域保持领先地位奠定了坚实的基础。

　　该案件是我国《互联网信息服务深度合成管理规定》（以下简称《规定》）颁布实施后，侦办的首例利用AI人工智能技术炮制虚假信息的案件，具有典型性和警示性。该案件给我们提出了以下几点启示：

　　一是，要提高对利用AI人工智能技术炮制虚假信息的危害性的认识。利用AI人工智能技术炮制虚假信息，不仅会误导公众，损害社会信用，还会威胁国家安全和社会稳定，造成不可估量的损失。特别是在当前网络信息传播速度快、影响力大、覆盖面广的情况下，一旦虚假信息被大量传播，就很难有效控制和消除其负面影响。因此，我们必须高度重视这种新型网络犯罪，加强预防和打击，维护网络空间的清朗和秩序；

　　二是，要加强对AI人工智能技术在网络信息传播领域的监管和管理。《规定》是我国首部针对深度合成服务的专门管理规定，对深度合成服务提供者和技术支持者提出了一系列数据和技术管理规范，对深度合成内容进行了标识要求，并明确了监督检查和法律责任等内容。《规定》的出台，为我国深度合成服务的治理提供了法律依据和制度保障。我们要认真贯彻落实《规定》，加强对深度合成服务的备案、安全评估、内容审核、辟谣处置等工作，及时发现和处理违法违规行为，保障深度合成服务的安全可控；

　　三是，要促进AI人工智能技术在网络信息传播领域的健康发展。AI人工智能技术是一把双刃剑，既有利用价值，也有风险挑战。我们不能因噎废食，否定AI人工智能技术在网络信息传播领域的积极作用。我们要鼓励深度合成服务提供者和技术支持者遵守法律法规、尊重社会公德和伦理道德、坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善，为社会主义精神文明建设、文化建设、科学技术创新等方面作出贡献。