AI代写愈加火热，人工智能潜在隐患又该如何防范？
编辑：2024-01-05 11:39:28
时值年末，又到了一年一度写年终总结的时候，*近，武汉的一家公司在朋友圈发布的招聘启事引发关注。内容说：“今年在AI的协助下，大致会撰写35万份以上报告（去年是26万份），年底来临，有不少总结性报告要写，招多个兼职报告撰写人员。”据了解，有了AI加持，这家公司在精简10%-20%人力的基础上，单量却比去年同期增加20%-30%。
此外，据报道，在某线上购物平台，输入“年终总结AI”“代写”等关键词，立刻蹦出许多相关产品。商家在产品介绍中写下宣传语：“AI智能原创、写作必备”“懒人办公”“三分钟急速交稿”等。产品销量一般在几千单左右，有的店铺月销量达6万单以上。
随着科技快速发展，人工智能（AI）应用越来越广泛，它深入到医疗、教育、娱乐等各个领域。如今，伴随各类年度总结任务的集中涌来，AI代写业务火了，然而，这看似*轻松的背后，却隐藏着巨大的风险！
那么
人工智能应用使用过程中
隐藏哪些风险呢？
下面跟着小密一起来看！
人工智能在促进社会发展进步的同时，也伴随着一些风险隐患，以今年爆火的ChatGPT为例，若被不当使用或滥用很有可能影响到国家安全、社会稳定、企业利益和个人用户权益等诸多方面。
而ChatGPT类大模型加速了数字******和物理******的深度融合，引领人工智能进入新的发展阶段。与此同时，人工智能固有的不确定性、不透明性、难以解释、事实性错误等能力局限，对经济发展、国际政治和全球治理等方面带来深远影响，引发了全球对大模型广泛应用安全风险的热议。如何应对人工智能风险并把握人工智能发展的战略主动，有效保障国家安全，已成为我国国家安全治理的重要议题。
大模型技术引发新的安全风险和治理挑战。随着技术的更新迭代，人工智能的应用门槛持续降低，伴随着误用滥用情况的增加，经济社会领域的多重安全风险也在交织叠加。
根据相关报道，ChatGPT的训练使用了45TB的数据、近1万亿个单词（大概是1351万本牛津词典的单词量）。其中很有可能就包括未经同意获取的个人信息。除前述海量数据外，ChatGPT还能够在与用户一对一的对话互动中获取信息。 在该软件隐私政策不明了的情况下，个人信息是否会被存储、泄露，甚至被恶意使用都不得而知。 ChatGPT庞大的网络语料库中或许包含着他人拥有著作权的作品，故其生成的文本也存在嫁接他人作品的可能性。但它在输出内容时却未必能够识别，也不一定会对用户进行提示。在没有得到原作者授权的情况下，ChatGPT产生的文本如果被使用，那么则很有可能是使用者承担知识产权侵权的法律风险。 尽管ChatGPT被视为有史以来*智能的AI，但它毕竟也不是全知全能。比如在一段涉及《红楼梦》的对话当中，ChatGPT就言之凿凿地宣称，贾宝玉是贾元春的儿子。 尽管它在文字组织上的确能够做到语句通畅，有条有理，但是并不能保障内容的真实准确。当用户在自己不熟悉的领域向ChatGPT咨询问题时，就很有可能因为这些看似“高大上”的回复，错信了有误甚至是虚假的信息，从而产生决策失误、传播虚假信息等诸多法律风险。 在高度智能化、自动化的应用场景中，ChatGPT在数据获取、处理、结果展示等环节都存在重大的数据安全风险。 一是数据获取阶段。用户在使用ChatGPT时，可能会输入自己或他人的信息数据，从而导致隐私泄露。如果员工使用ChatGPT输入各类工作数据，就可能导致公司敏感信息泄露。而一旦输入涉及国家秘密或敏感内容的信息，则无疑会导致泄密。 二是数据处理阶段。ChatGPT会将用户输入、交互的数据用于后续持续的迭代训练，这就导致这些信息很可能被其他用户获取，从而构成数据非授权共享，进而出现数据泄密问题。
随着人工智能的不断深入
我们在面对AI带来的种种风险时
又该如何应对呢？
且听小密为你一一道来~
******，建立行业监管制度并开展合规性评估审查。建立健全AI服务行业监督管理相关制度与标准。包括算法分级分类管理、算法推荐服务安全管理、AI 滥用举报等，并开展AI应用安全合规性评估审查与处置，实现行业监管闭环。 第二，创新研究应用人工智能赋能网络安全技术。一方面，利用AI技术赋能针对复杂网络攻击的防御能力，使用 AI 技术应对其带来的网络安全风险；另一方面，研究利用AI技术提升企业组织在网络安全攻击检测、数据资产识别与风险监测、业务安全风控、不良信息识别、电信反诈、安全威胁分析、深度伪造识别等方面的能力。 第三，做好元宇宙等AI融合场景的安全风险梳理与防护技术储备。对于元宇宙和AI融合关键场景，要抓紧开展安全技术研究储备，提早防范大规模人工智能安全事件发生。
对于个人而言，除了避免陷入虚假宣传，更重要的是面对花样翻新的AI诈骗，必须保持防范意识。 保护信息，提高警惕。公众要谨慎提交个人信息及企业数据，防范AI应用个人隐私窃取、有害言论误导诱导等风险，防范利用ChatGPT热点或者仿冒知名AI应用收集敏感信息实施诈骗等行为。 多重验证，确认身份。如果有人自称"熟人""领导"等通过社交软件、短信以各种理由诱导汇款，或涉及网络转账交易行为时，务必通过电话、见面等多途径核验对方身份，不要未经核实随意转账汇款。 如不慎被骗或遇可疑情形，请注意保护证据，并立即拨打96110报警。 随着AI产品的不断更新，不少AI软件推出了公文写作板块，人工智能开始悄然影响公文写作等日常政务工作，作为机关、单位干部职工，如果偷懒用AI代写，各种文件和数据泄露的后果将不堪设想！ 不仅如此，由于AI写作内容相对比较笼统，语言僵硬，不贴合实际情况，使用过程中还可能涉及信息泄露风险、侵犯知识产权等法律问题，所以小密建议大家，在工作中尽量不要使用AI写作，多积累理论知识和实践案例，才能成为真正的“笔杆子”！
来源：成华密语
咨询热线：0351-4073466
地址：（北区）山西省太原市迎泽区新建南路文源巷24号文源公务中心5层
（南区）太原市小店区南中环街529 号清控创新基地A座4层
