凭借出色的内容生成能力，ChatGPT在带给人们惊叹的同时，也被一些别有用心者当成了制造谣言、炮制内容的生产工具，编造出的信息往往真假混杂、难以辨识，由此引发了一系列案件与担忧。
甘肃平凉警方侦破ChatGPT造谣案
近日，甘肃省平凉市公安局网安大队侦破一起利用人工智能技术炮制虚假信息的案件。
据报道，4月25日，平凉市公安局崆峒分局网安大队对一篇题为“今晨甘肃一火车撞上修路工人致9人死亡”的文章进行初步研判，判断其内容为虚假不实信息。
网安民警迅速展开调查，发现共有21个账号在同一时间段发布该文章，文中涉及的地点除平凉市崆峒区外，还包括兰州、陇南、定西、庆阳等地，文章点击量已达到1.5万余次。
调查结果显示，涉案的这批账号均属于广东深圳某自媒体公司，公司法人代表洪某弟有重大作案嫌疑。
5月5日，专案民警在广东东莞嫌疑人住处对其使用的电脑进行了取证。
经审讯，犯罪嫌疑人洪某弟供述，其之所以在全网搜索近几年社会热点新闻，目的在于为规避平台查重功能，且借助近期火爆的ChatGPT人工智能软件，将搜集到的新闻要素修改编辑后，上传至多个账号进行非法获利。
警方认为，洪某弟利用现代科技手段编造虚假信息并散布互联网，被大量传播浏览，其行为已涉嫌寻衅滋事罪。
目前，崆峒公安分局已对犯罪嫌疑人洪某弟采取刑事强制措施，案件正在进一步侦办之中。
实际上，这已不是ChatGPT第一次卷入假新闻风波。从一开始，公众就见识过它“一本正经胡说八道”的本领：让它解释高深物理理论，能说得有鼻子有眼，可所附论文一查却查无出处；让它推荐相关领域学者，瞬间能给出人选，但人物履历却是七拼八凑。
杭州“取消限行”假新闻同样由ChatGPT生成
此前，一条关于杭州3月1日取消限行的“新闻稿”曾引发广泛传播，后经记者调查证实是一条不实信息。
据了解，2023年2月16日下午，杭州某小区业主群里有人讨论ChatGPT。一位业主开玩笑说，不妨试着让它写篇杭州取消限行的新闻稿看看。
随后，该业主在群内直播了ChatGPT的写作过程，并将生成的文章发到群里。有不明就里的业主信以为真，截图转发，最终导致这一错误信息扩散。
经核实，杭州相关政府部门均未发布过此类政策，警方已介入调查，涉事业主也在群中公开道歉。
刑法学者：ChatGPT“黑盒”结构带来多重法律风险
大型预训练人工智能语言模型ChatGPT在全球持续火爆。在此前一家媒体与ChatGPT展开的“对话”中，曾问到“你会取代记者吗”这一问题，ChatGPT对此作出了回应。
华中科技大学法学院副教授滕锐表示，ChatGPT是大量不同的数据集群训练出来的语言模型，目前其背后仍是“黑盒”结构，即无法确切对其内在的算法逻辑进行分析拆解，所以不能确保在使用ChatGPT的过程中，其所输出的内容不会产生攻击危害用户的表述。
滕锐指出：“如果ChatGPT的回复是错误或虚假信息，会具有极大的误导性，有潜在法律风险。”在他看来，ChatGPT难免存在一些侵犯用户隐私的内容；此外，若回复中存在过度借鉴他人作品等情况，使用不当就有可能侵犯他人的著作权。
值得注意的是，目前已有多个国家的学校发出禁令，禁止学生在校内使用类似ChatGPT的人工智能工具完成学习任务和考试，目的是避免学生过度依赖人工智能类工具、防止作弊。
造假能力强、审核门槛相对缺失
早有新闻可信度评估机构提出，“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具”。另有一些实验显示，相比人类，ChatGPT这类个性化实时聊天机器人在制造阴谋论方面甚至更有优势，它能够修正糟糕的语法或错误的翻译，变换表达方式，使阴谋论显得更具说服力和可信度。
一面是超强的“造假能力”，另一面却是相对缺失的“审核门槛”——由于算法逻辑中天然缺乏事实核查能力，来源不明的所谓“新闻稿”随时可能成为舆论爆点，大众则在将信将疑中“且传且围观”。
乱象频仍、真相缺失的现象充分警示：面对这样强大的内容生产能力，如果不由相关方加以治理限制，任由人工智能随性发展，必将严重威胁信息生态。
科技是一把双刃剑，人工智能也不例外。人们当然不必将其视为洪水猛兽，关键是在积极拥抱新技术、新事物的同时，注意规避潜在的问题和风险。
法规与技术双重应对正在推进
人工智能浪潮滚滚而来，相关法律与伦理框架不仅不能落后，反而应尽量赶在前面。
目前，世界各国都在开展相关工作。以我国为例，今年1月《互联网信息服务深度合成管理规定》颁布实施；4月，国家网信办起草了《生成式人工智能服务管理办法（征求意见稿）》。业内人士相信，随着法律法规逐步完善，相关权责会更加明晰，操作规范也会更加具体。
与此同时，面对技术带来的新问题，也要多多寻求“技术解”，例如对人工智能合成的文章进行识别，并打上不可抹掉的标签。
ChatGPT在接受《时代》专访时曾表示：我还有很多局限，但人类应准备好应对AI。确实，当人们为ChatGPT打开的新世界而激动万分时，更应该保留一丝理性的冷静。
构建人工智能应用的伦理和法律框架，让其与技术研发齐头并进，规定好人工智能缔造者的义务，充分提醒用户保持警觉。“凡事预则立”，尽快做好方方面面的准备工作，社会就能更好应对“人工智能生产内容新纪元”。
小结：ChatGPT既能高效生成内容，也可能被用于炮制假新闻，甘肃平凉一案中21个账号发布的虚假文章点击量已超1.5万次，涉事嫌疑人被采取刑事强制措施；杭州取消限行假新闻亦由ChatGPT生成。随着《互联网信息服务深度合成管理规定》施行及法律法规逐步完善，AI内容治理将走向技术识别与法律约束并行。