?
?/span>CPS中安|?cps.com.cn?
众所周知Q新兴技术的发展是把双刃剑,当h工智能从1.0时代q入2.0时代QAIGCQ生成式人工Qؓ(f)千行百业带来市场U利的同Ӟ也催生了不少行业安全隐?zhn)?/span>
诸如技术滥用、虚假信息传播、个Z息权益被侵害、数据泄露或偏见歧视{安全问题,已然成ؓ(f)AIGC产业持箋发展的阻。因而,Z实际国情Q适合我国C会(x)环境、业发展和技术创新等监管政策的出炉成为当务之急?/span>
一、风险凸?/span>
众所周知Q?/span>AI发展的三N车“算法、算力、数据”,数据ؓ(f)重要Q其安全性则是重中之重。而作为AI下一个风口的AIGCQ更需要v量优质数据ؓ(f)训练模型提供支撑Q其训练参数量从亿飙升C亿?/span>
数据昄Q?/span>2018qGPT预训l模型参数量H破1亿,2020q的CPT-3模型参数量达?750亿,GPT-4的参数量高达1.8万亿QGPT-4的参数量规模是GPT-3?0倍以上?/span>
可见Q动辄千ѝ上万亿参数的模型训l,不仅试错成本高昂Q而且很难在训l过E中q行修正?/span>AIGC的训l模型数据需求量大,如若喂给大模型的h数据存在虚假、不准确性或涉及(qing)到用户个人隐U安全,其生成内容归属难定,或将涉及(qing)到安全或隐私U纷?/span>
当前Q?/span>AIGC持箋大热Q其应用场景不断拓展Q覆盖千行百业多个领域。当通用大模型向行业大模型{型升U,对细分行业的数据需求更多,数据质量要求更高Q也Ҏ(gu)v量数据的真实性、准性、安全性提出更高要求?/span>
二、可?/span>AI的挑?/span>
聚焦国内市场Q伴随着AI技术的快速P代和应用场景商业化落圎ͼAIGC的发展也亟待解决可释性、公qx、鲁性等核心挑战?/span>
通俗来讲Q可释性就?/span>“知其然不知其所以然”。例如当购物|站为用h荐了一个商品,我们不仅希望用户看到推荐的结果,q要告诉用户Z么推荐这个商品。就是从“知道这个结果”到“ؓ(f)什么是q个l果”的溯源Q但在h工智能的不断深度学习(fn)中,来缺系l的可解释性?/span>
公^性缺失意味着Q在同样的商品推荐中Q基于图经|络l构隐藏在数据中的偏见,Ҏ(gu)别、年龄、种族等产生不同的推荐效果,从而降低了对用户和Ҏ(gu)荐物的公qx?/span>
鲁棒性的挑战则指pȝ、算法或模型在存在异常输入、算法错误或深度伪造数据时Q容易被ƺ骗犯错Q从而造成AIpȝ的不可控和不准确?/span>
lg来看Q要做到可信AIQ需要从可释性、公qx、鲁性、u理性、正性、安全性等多维度进行考量Q才?x)更好地驱动AIGC的未来发展?/span>
由此可见Q?/span>AIGC的“超能力”将逐步赋能千行百业Q有必要提前预防可能产生的安全风险。因而,Z规避新技术带来的陷阱Q对AIGC或将产生的不良媄(jing)响,亟待政策层面的保障?/span>
三、多国监政{出?/span>
?/span>AIGC技术逐步向细分行业商业化的落地过E中Q其引发的安全问题已受到全球xQƈ引发监管层面的关注和行动?/span>
今年4月,AI早期创始人马斯克联合业内千名高管和专家发布公开信,倡议所有h工智能实验室应立x停训l至?个月Q以应对AIq人类掌控的威胁?/span>
5月,国政府机构对ChatGPT在u理道h面的监管Q研I和制定针对ChatGPT的监政{和指南Q以保ChatGPT的发展和应用W合法律法规和u理标准?/span>
6月,Ƨ盟议会(x)宣布《h工智能法案》进入最l讨论阶D,对AIGC生成囑փ和文本的模型制定限制性规则。意大利、爱?dng)兰、d国、法国等或将停用ChatGPTQƈ调查它是否符合通用数据保护条例?/span>
7月,联合国安理会(x)也在开展AI风险问题研讨。这是该机构W一ơD行类型会(x)议,各国政府U极探讨如何降低新兴AI技术在全球l济和国际安全方面带来的风险?/span>
同是7月,国家|信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广甉|d发布《生成式人工服务理暂行办法》(以下U《办法》)Q自8?5日正式施行?/span>
从上q各国对?/span>AIGC技术带来的风险挑战和应Ҏ(gu)施来看,在AIGC带来“超能力”之Ӟ也需要对其引发的多重风险“立规矩”,助力AIGC更好地落地应用?/span>
四?/span>《办法》打造护城河
历时3个月Q伴随着AIGC产业发展的高歌猛q,其监政{也从征求意见阶D进阶到正式落地阶段Q助力AIGC成ؓ(f)真正的“可信AI”。正如业内h士所aQ“《办法》的出台Q就是打造可信AI的护城河”?/span>
《办法》的出台Q可谓顺势而ؓ(f)。其中,W七条提到生成式人工服务提供者需“用具有合法来源的数据和基模型Q采取有效措施提高训l数据质量,增强训练数据的真实性、准性、客观性、多h?/span>
具体规定包括Q?/span>1Q用具有合法来源的数据和基模型Q?Q涉?qing)知识权的Q不得R害他Z法n受的知识产权Q?Q涉?qing)个Z息的Q应用取得个人同意或W合法律、行政法规规定的其他情ŞQ?Q采取有效措施提高训l数据质量,增强训练数据的真实性、准性、客观性、多h;5Q《中华h民共和国|络安全法》、《中华h民共和国数据安全法》、《中华h民共和国个h信息保护法》等法律、行政法规的其他有关规定和有关主部门的相关监管要求?/span>
可以_(d)《办法》的出台Q即是在政策认可前提下的风险控Q可以ؓ(f)大数据确权、云计算自主性、网l安全等AI配套产业打造增量需求和服务Q更好地实现“技术向善”?/span>
随着AIGC技术端的突_(d)能更好地解决“安?AI”遇到的个性化需求少、交付速度慢、长N求的法_ֺ差、定制化法成本高等壁垒Q助推“安?AI”的二次变革Q也助力安防产业收获W一波AIGC应用市场的红利?/span>
而安防业在享受大数据、云计算、物联网?/span>AIGC法生成{带来的U利Ӟ也必L高效地应Ҏ(gu)据安全带来的安全挑战。特别是安防讑֤对图片、视频等数据的真实性和防伪性要求别更高,《办法》的出台Qؓ(f)AIGC在安防行业的落地应用提供了监保障?/span>
国家互联|信息办公室有关负责Z表示Q出台《办法》,旨在促进AIGC健康发展和规范应用,l护国家安全和社?x)公共利益,保护公民、法人和其他l织的合法权益?/span>
ȝQ?/span>
U观AIGC的发展轨q,当前其应用领域侧重于to-C领域Q涵盖对话、图片、音频、视频等内容生成Q而未来涉?qing)to-B领域的更多落地化应用场景对行业大模型的需求也不少Q但苦于资金、技术和力的掣肘,q需要“通用大模?应用场景+训练调优”进行P代,从而提升行业大模型能力Q深化技术和应用场景?/span>
可预见的是,ZAIGC应用场景的普?qing)和商业化落圎ͼ保护隐私和数据安全已M容缓。在此时间点Q《办法》的出台则及(qing)时也很必要,可以降低AIGC发展引发的多重风险,以促q行业整体健康发展?/span>
版权所有:(x)驻马店保安服务有限公司技防分公司
?sh)话Q?396--2908080 地址Q河南省驻马店市金雀路东D开发区一对面(原东高派出所Q?/p>