近段时间，国内外科技巨头纷纷涌入万亿级AIGC（生成式AI）赛道，A股市场上AIGC、ChatGPT等人工智能相关概念也受到热捧。火爆的同时，相关的风险也越来越不容忽视，各国都开始意识到对人工智能监管的必要性。

(资料图)

AIGC赛道火热

自年初以来，以ChatGPT为首的生成式AI应用在全球掀起一场AIGC浪潮。国外方面，已有包括微软、谷歌、亚马逊等科技巨头轮番暗战。国内包括百度、腾讯、阿里、华为、京东、360等多家科技巨头均已宣布在生成式AI产业有相应布局。

东吴证券表示，ChatGPT应用空间广泛，潜在市场规模可观，到2025年AIGC产生的数据将占所有数据的10%，2030年AIGC市场规模将超过万亿元。

“潘多拉魔盒”同时打开，风险隐患如何预防

ChatGPT在短短时间内吸引了大量用户，但业内人士也越来越意识到所带来的风险隐患。3月29日，埃隆·马斯克等一千多名业界、学界人士则联署发表公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，暂停时间至少6个月。一些公司开始采取措施来降低这些风险，其中包括OpenAI公司。

4月初，OpenAI公司表示，将向报告其人工智能系统漏洞的用户提供高达2万美元的奖励。OpenAI发布了一项名为Bug Bounty的计划，并邀请研究人员审查ChatGPT的某些功能以及OpenAI系统如何与第三方应用程序共享数据的框架。

近日，抖音也开出了自己的药方。抖音明确，发布者应对人工智能生成内容进行显著标识。抖音要求，在抖音应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。同时，发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。

多国监管机构出手整治

与此同时，各国政府和监管机构开始采取措施限制和管理相关技术，以确保公众利益和安全。

当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，限制ChatGPT的开发公司OpenAI处理意大利用户信息，并开始立案调查。该决定使意大利成为首个明确禁用ChatGPT的国家。

当地时间4月11日，美国商务部就ChatGPT等人工智能技术相关的问责措施正式公开征求意见，包括具有潜在风险的新型人工智能模型在发布前是否应进行核准认证程序。

4月11日，中国国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》。依据征求意见稿，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

4月30日，七国集团（G7）的数字和技术部长在日本结束为期两天的会议后，同意“基于风险”推出一项针对人工智能的监管法案。根据联合声明，G7虽同意出台相应的监管政策，但重申监管也应该为人工智能技术“保持一个开放有利的环境”。

5月4日，英国竞争和市场管理机构宣布，将对人工智能市场展开审查，涉及ChatGPT等工具背后的技术。

5月4日，美国白宫宣布首个AI监管计划。白宫公告称，美国国家科学基金会计划拨款1.4亿美元，用于启动7所新的国家人工智能研究院。同日，美国副总统哈里斯以及多位白宫高级官员与谷歌、微软、OpenAI和AI初创公司Anthropic的首席执行官会面，集中讨论当前和近期的技术发展所带来的风险。美国政府官员和科技界高管还讨论了评估人工智能系统的有效性，以及确保系统免受攻击的重要性。

5月9日，日本首相岸田文雄透露，拟设置磋商制定利用AI相关规则等的“AI战略会议”。岸田当天在官邸与研究人员和创业人才等开会时称，“会着眼于AI的潜力和风险推进举措”。

5月11日，欧洲议会两个委员会通过《人工智能法案》提案的谈判授权草案。新文本将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。谈判授权草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为 “高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。该草案为世界上第一部综合性人工智能法律铺平道路。这一草案将于6月中旬提交欧洲议会全会表决，之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。

关键词：