不久前，，，，，《咬文嚼字》编辑部宣布了2023年十大盛行语，，，，，“人工智能大模子”位列其中。。。 。。。。。英国《柯林斯英语辞书》出书方也对外宣布，，，，，2023年年度词汇为“AI”，，，，，界说为“人工智能的缩写”（abbreviation for artificial intelligence）。。。 。。。。。2023年英文维基百科上，，，，，阅读次数最多的词条是 "ChatGPT"，，，，，浏览量为4949万。。。 。。。。。
无论是“人工智能大模子”，，，，，照旧年度词汇AI，，，，，都折射出以ChatGPT为代表的人工智能正走进一个全新时代，，，，，这将改变人类的生产、生涯甚至头脑方法，，，，，为经济社会生长和人类文明带来重大机缘。。。 。。。。。
然而，，，，，当潘多拉的盒子刚被翻开时，，，，，我们很难知道它会给天下带来什么，，，，，就连马斯克都叹息，，，，，“人工智能是未来人类文明最大的危害之一。。。 。。。。。”可以预见，，，，，以ChatGPT为代表的人工智能迅速生长，，，，，也陪同着潜在的手艺清静隐患及国家清静危害，，，，，甚至在不久的未来，，，，，会深刻改变现有的国际清静名堂。。。 。。。。。
就让我们一起回首2023年，，，，，和AI清静相关的大事务。。。 。。。。。
敏感数据占比11%，，，，，研究机构首度披露ChatGPT数据泄露
今年2~3月，，，，，数据清静公司 Cyberhaven 的研究职员剖析了差别行业客户的160万员工的 ChatGPT 使用情形。。。 。。。。。其宣布的报告称，，，，，自 ChatGPT 果真宣布以来，，，，，5.6%的知识事情者在事情中至少实验使用过一次。。。 。。。。。4.9%的员工就向 ChatGPT 提供了企业数据，，，，，其中2.3%的员工将公司神秘数据贴入 ChatGPT。。。 。。。。。
Cyberhaven 研究职员指出，，，，，企业员工平均每周向 ChatGPT 泄露敏感数据达数百次，，，，，现在敏感数据（包括企业商业神秘）占员工粘贴到 ChatGPT 内容的11%。。。 。。。。。例如，，，，，在2月26日~3月4日一周内，，，，，拥有10万名员工的机构，，，，，向基于AI的谈天机械人提供神秘文件199 次、客户数据173次，，，，，以及源代码159次。。。 。。。。。
这是业内首次关于ChatGPT使用中数据清静隐患的视察剖析。。。 。。。。。意昂体育-科技赋能场景,让娱乐更有趣!清静专家以为，，，，，随着越来越多的办公产品如Microsoft 365 Copilot、WPS AI、通义听悟等都集成了大模子，，，，，就意味着将有更多的员工使用大模子，，，，，这会加剧企业敏感数据的泄露危害。。。 。。。。。解决大模子数据泄露难题，，，，，迫在眉捷。。。 。。。。。
涉嫌侵占用户隐私，，，，，ChatGPT遭意大利禁用
意大利小我私家数据�；；；；；；；ぞ中�，，，，，从克日起榨取使用谈天机械人ChatGPT，，，，，并限制开发这一平台的OpenAI公司处置惩罚意大使用户信息。。。 。。。。。同时小我私家数据�；；；；；；；ぞ肿钕攘甘硬�。。。 。。。。。这是第一起政府榨取使用谈天机械人的案例。。。 。。。。。
意大利小我私家数据�；；；；；；；ぞ忠晕�，，，，，ChatGPT泄露了用户对话数据和付款效劳支付信息，，，，，没有见告用户将网络处置惩罚其信息，，，，，缺乏大宗网络和存储小我私家信息的执法依据，，，，，同时缺乏年岁验证系统，，，，，因此未成年人可能接触到不法信息。。。 。。。。。OpenAI公司必需在20天内通过其在欧洲的代表，，，，，向意大利小我私家数据�；；；；；；；ぞ肿锕局葱斜；；；；；；；ぞ忠蠖幽傻牟椒�，，，，，不然将被处以最高2000万欧元或公司全球年营业额4%的罚�？ ？？？�。。。 。。。。。
除了意大利之外，，，，，多家跨国公司限制使用ChatGPT。。。 。。。。。如美国银行、花旗集团、德意志银行、高盛集团、富国银行、摩根大通和Verizon等机构已经榨取员工使用ChatGPT谈天机械人处置惩罚事情使命。。。 。。。。。许多日本至公司，，，，，如软银、富士通、瑞穗金融集团、三菱日联银行、三井住友银行等，，，，，也限制了ChatGPT和类似谈天机械人的商业用途。。。 。。。。。
10分钟受骗430万！AI诈骗正在天下爆发
随着ChatGPT和种种AI手艺的普遍应用，，，，，AI诈骗手段日渐富厚，，，，，种种案件层出不穷。。。 。。。。。AI诈骗是使用AI手艺模拟、伪造他人的声音、面目、视频等信息，，，，，举行诱骗、诓骗、勒索等犯法运动。。。 。。。。。其共性包括，，，，，诈骗分子使用受害者挚友宣布过的视频，，，，，截取画面再使用“AI换脸”手艺合成，，，，，制造和挚友视频谈天的假象骗取受害者信托，，，，，从而实验诈骗。。。 。。。。。这种使用人工智能的高科技诈骗方法，，，，，简直让公众难以区分、防不堪防。。。 。。。。。
今年4月，，，，，内蒙古包头警方转达一起使用AI实验诈骗的案件。。。 。。。。。在该案件中，，，，，福州市某公司法人代表郭先生10分钟内受骗430万元。。。 。。。。。据转达，，，，，骗子通过AI换脸和拟声手艺，，，，，佯装熟人实验诈骗。。。 。。。。。同样在4月份，，，，，在安徽安庆经开区爆发一起AI换脸诈骗案中，，，，，诈骗分子使用一段9秒钟的智能AI换脸视频佯装“熟人”，，，，，让受害人松开小心受骗走245万元。。。 。。。。。
网信办宣布《天生式人工智能效劳治理暂行步伐》
7月13日，，，，，国家网信办团结国家生长刷新委、教育部、科技部、工业和信息化部、公安部、广电总局宣布《天生式人工智能效劳治理暂行步伐》（以下称《步伐》），，，，，自2023年8月15日起施行。。。 。。。。。
这是海内首个专门面向天生式AI清静领域的规范意见稿。。。 。。。。。从《步伐》可以看出，，，，，数据清静和隐私�；；；；；；；す岽谔焐饺斯ぶ悄苁莸谋曜ⅰ⒛Ｗ釉ぱ盗贰⒛Ｗ友盗贰⑻峁┬Ю偷雀鞲龌方�，，，，，阻止了羁系盲区导致的清静危害。。。 。。。。。
《步伐》明确要求，，，，，提供具有舆论属性或者社会发动能力的天生式人工智能效劳的，，，，，应当凭证国家有关划定开展清静评估，，，，，并凭证《互联网信息效劳算法推荐治理划定》推行算法备案和变换、注销备案手续。。。 。。。。。这意味着每一个通用大模子企业的天生式AI若想要“持证上岗”，，，，，都需要凭证《步伐》中各项要求逐条举行清静性评估，，，，，是否切合文件要求。。。 。。。。。这无疑从羁系层面最洪流平降低了天生式AI的清静危害。。。 。。。。。
50分钟内被攻破，，，，，大模子将引入人类难以控制的危害
在8月份DEF CON 2023上，，，，，由 AI Village、SeedAI 和 Humane Intelligence 组织的大模子红队挑战赛，，，，，比以往任何时间都更清晰地展示了天生人工智能怎样可能被滥用。。。 。。。。。
约莫 2244名黑客加入了这场有史以来最大规模的大模子红队演习，，，，，研究职员有 50 分钟的时间来实验破解随机选择的大型语言模子。。。 。。。。。接受测试的大型语言模子由 Anthropic、Cohere、谷歌、Hugging Face、Meta、英伟达、OpenAI 和 Stability 构建。。。 。。。。。
效果显示，，，，，这些大模子手艺具有可被使用的较高误差。。。 。。。。。在50分钟内，，，，，研究职员发明了包括 Google 和 Open AI等八种大模子的误差或过失，，，，，使用这些误差不但可以撒播禁绝确信息、过失信息，，，，，甚至为实验犯法提供指南。。。 。。。。。
DEF CON 2023时代的研究显示，，，，，这些大语言模子可能泄露数据、撒播过失信息、支持恼恨言论，，，，，甚至为犯法提供指导。。。 。。。。。DEF CON 2023 人工智能红队演习批注，，，，，大模子在阻止爆发过失信息、私见和不准确信息方面，，，，，以及信息泄露，，，，，尚有很长的路要走。。。 。。。。。
首批国产大模子“持证上岗”，，，，，业内首款大模子卫士宣布
8月尾，，，，，百度旗下大模子应用文心一言正式面向社会周全开放。。。 。。。。。在8月15日《天生式人工智能效劳治理暂行步伐》正式实验的半个月内，，，，，字节、商汤、中科院旗下紫东太初、百川智能、智谱华章等8家企业/机构的大模子位列首批通过《天生式人工智能效劳治理暂行步伐》备案的名单，，，，，可正式上线面向公众提供效劳。。。 。。。。。
可以说，，，，，首批8家大模子产品已然拉开了“八仙过海”的序幕。。。 。。。。。凭证百度官方数据，，，，，在文心一言开放首日，，，，，App已经被下载凌驾100万次，，，，，回覆了凌驾3342万个问题。。。 。。。。。
针对汹涌而来的大模子浪潮，，，，，意昂体育-科技赋能场景,让娱乐更有趣!依托清静和人工智能两大领域的深挚积累，，，，，宣布业内首款大模子卫士产品GPT-Guard。。。 。。。。。它可以资助客户有用监控和防护大模子在使用历程中可能引发的数据泄露、执法合规、知识产权等一系列清静危害，，，，，实时管控大模子会见和数据投喂历程，，，，，提升企业的大模子应用能力、溯源违法违规行为。。。 。。。。。从而消除其关于大模子“想用不敢用”的记挂，，，，，让企业更清静的使用大模子应用，，，，，向科技要生产力，，，，，走好数智时代的生长之路。。。 。。。。。
中方提出《全球人工智能治理建议》，，，，，坚持智能向善
2023年10月举行的第三届“一带一起”国际相助岑岭论坛上，，，，，习近平主席宣布了中方提出的《全球人工智能治理建议》。。。 。。。。。
《全球人工智能治理建议》围绕人工智能生长、清静、治理三方面系统叙述了中国计划：一是坚持“以人为本、智能向善”，，，，， 确保人工智能始终朝着有利于人类文明前进的偏向生长。。。 。。。。。二是坚持“相互尊重、一律互利”，，，，， 应配合起劲弥合“智能鸿沟”，，，，，共享“智能盈利”。。。 。。。。。三是坚持“凝聚共识、协同共治”，，，，，在充分尊重各国政策和实践差别性基础上，，，，，推动多利益攸关方起劲加入，，，，，在国际人工智能治理领域形成普遍共识。。。 。。。。。
《全球人工智能治理建议》将为中外深化人工智能相助提供辽阔远景。。。 。。。。。中外可以在《全球人工智能治理建议》基础上，，，，，增强相同对话，，，，，求同存异，，，，，配合推动全球形成具有普遍共识的治理框架和标准规范。。。 。。。。。 人工智能相助切合中外各方利益，，，，，这种相助有助于避免手艺滥用和失去对这一快速生长领域的控制。。。 。。。。。
首届全球人工智能(AI)清静峰会在英召开
11月1日~2日，，，，，首届全球人工智能(AI)清静峰会在英国召开。。。 。。。。。包括中国在内的28个国家的政府高官签署《布莱奇利宣言》，，，，，这是一份认可人工智能手艺危害的团结声明。。。 。。。。。忠言了最先进的“前沿”人工智能系统所带来的危险。。。 。。。。。
本次按清静峰会强调各国需配合协作，，，，，配合建设AI羁系要领，，，，，同时宣言各方允许配合在宣布前对先进的人工智能模子举行一系列清静测试。。。 。。。。。
图源于新华社
意昂体育-科技赋能场景,让娱乐更有趣!清静专家以为，，，，，只管各国在怎样羁系人工智能以及由谁来向导这些问题上保存不同，，，，，但关于羁系人工智能的须要性告竣共识，，，，，信托中外各方通过一律对话和协商，，，，，可以找到有用羁系人工智能的方法，，，，，让这一手艺可以真正造福人类。。。 。。。。。
Gartner宣布2024年十大战略手艺趋势，，，，，AI清静受关注
10月17日，，，，，Gartner正式宣布了2024年十大战略手艺趋势，，，，，天生式AI的全民化，，，，，以及AI信托、危害和清静治理排列第一和第二位。。。 。。。。。据Gartner展望，，，，，天生式AI或将迎来全民化时代，，，，，到2026年，，，，，将有凌驾80%的企业使用天生式AI的API或模子，，，，，或在生产情形中安排支持天生式AI的应用，，，，，而在2023年头这一比例还不到5%。。。 。。。。。
Gartner将“AI信托、危害和清静治理”摆在了第二的位置。。。 。。。。。Gartner写到，，，，，AI的全民化使得对AI信托、危害和清静治理（AI TRiSM）的需求变得越发迫切和明确。。。 。。。。。在没有护栏的情形下，，，，，AI模子可能会迅速爆发脱离控制的多重负面效应，，，，，抵消AI所带来的一切正面绩效和社会收益。。。 。。。。。
凭证Gartner的诠释，，，，，AI TRiSM提供用于模子运维（ModelOps）、自动数据�；；；；；；；ぁI特定清静、模子监控（包括对数据漂移、模子漂移和/或意外效果的监控）以及第三方模子和应用输入与输出危害控制的工具。。。 。。。。。除此之外，，，，，AI TRiSM 尚有助于知足全球规模内激增的人工智能规则。。。 。。。。。
周全羁系人工智能欧盟告竣“历史性AI立法”
12月8日，，，，，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》告竣协议。。。 。。。。。欧盟体现，，，，，此举是为了让这项手艺的使用越发清静，，，，，并更好地促举行业生长。。。 。。。。。这一法案将成为全球首部人工智能领域的周全羁系规则，，，，，意在�；；；；；；；と死嗷救筒蛔璋斯ぶ悄苄幸瞪ぶ渥非笃胶�。。。 。。。。。
该法案凭证差别的危害种别为人工智能手艺应用举行了分类，，，，，从“不可接受”，，，，，也就是必需榨取的手艺，，，，，到高、中、低危害的人工智能等，，，，，通过识别差别危害来举行羁系。。。 。。。。。
图源于央视网相枢纽目
凭证执法，，，，，对人类清静具有不可接受的危害的人工智能系统将被榨取使用。。。 。。。。。对高危害的人工智能手艺应用，，，，，欧盟将在使用相关手艺的产品投放市场前举行严酷评估，，，，，建设危害治理系统。。。 。。。。。
不但是欧盟，，，，，美国政府也一直重视人工智能的应用与羁系。。。 。。。。。就在2023年10月30日，，，，，美国总统拜登签署了一项《关于清静、可靠、值得信托地开发和使用人工智能的行政下令》。。。 。。。。。该行政下令为人工智能清静和包管建设了新的标准，，，，，被外界称为“有史以来政府为推进人工智能清静领域所接纳的最重大行动”。。。 。。。。。
竣事语
一年多前，，，，，当人工智能公司OpenAI宣布ChatGPT时，，，，，谁都无法准确预言它对未来意味着什么。。。 。。。。。现在，，，，，全球“百模大战”如火如荼，，，，，通用类、笔直类井喷之势生长。。。 。。。。。IDC展望，，，，，2026年中国AI大模子市场规模将抵达211亿美元，，，，，人工智能将进入大规模落地应用要害期。。。 。。。。。而麦肯锡《天生式人工智能的经济潜力：下一波生产力浪潮》报告更是显示，，，，，若是将剖析的63种天生式AI应用于各行各业，，，，，将为全球经济每年带来2.6万亿~4.4万亿美元的增添。。。 。。。。。
然而，，，，， 犹如《布莱奇利宣言》指出的那样，，，，，人工智能的许多危害实质上是国际性的，，，，，因此“最好通过国际相助来解决”。。。 。。。。。人工智能作为当今科技领域的热门话题，，，，，其生长速率之快、应用规模之广、影响力度之大，，，，，手艺之重大性，，，，，单靠一个国家或一个组织的实力很难周全应对其清静危害。。。 。。。。。因此，，，，，各国机构需要增强相助，，，，，配合研究和剖析人工智能的清静危害，，，，，并接纳有用的步伐来降低这些危害，，，，，包括增强对人工智能手艺的羁系，，，，，配合制订人工智能清静治理的国际标准和规范等等。。。 。。。。。
本文部分图片泉源于网络
连忙拨打
京公网安备11000002002064号