妙鸭相机再掀AI热浪
生成式人工智能如何监管

◎记者 罗茂林

面向消费端的AIGC（即生成式人工智能）再次引发大众的热议，近日一款在线生成专业质感大片的AI相机“妙鸭”在社交平台刷屏，只需要上传21张照片，用户就可以得到一套媲美专业摄影馆的写真，9.9元的收费也远低于市场价格。

不过，随着“妙鸭相机”App的走红，相关的隐私安全问题引发大众关注，有关生成式人工智能安全性的问题再次成为焦点。值得注意的是，近期从中央到地方，有关生成式人工智能的监管文件快速出台，行业发展或将步入“合规竞争”的时代。

AI相机带火AIGC

“妙鸭相机”走红社交平台，让大众再次感受到生成式人工智能的魅力。然而与此同时，关于个人数据安全与隐私保护的问题再次引发讨论。记者注意到，日前“妙鸭相机”再次调整了它的用户隐私协议，进一步规避数据安全与用户隐私方面的风险。

记者采访发现，大部分用户在提及“妙鸭相机”出色的艺术照拍摄功能之外，对于大量上传个人照片也表示出一定程度的担忧。“上传的时候因为照片数量不够，我还发了几张合照，系统能自动识别出我的脸来。”一位用户告诉记者，“妙鸭相机”的AI智能程度有些出乎他的意料。

公开资料显示，妙鸭相机的主体公司是成立于2006年的未序网络科技（上海）有限公司。该公司是一家从事软件和信息技术服务为主的企业，注册资本为5520万美元。值得注意的是，该公司法定代表人张龙也是优酷视频（西安）传媒科技有限公司的法定代表人、执行董事兼总经理；而监事冯云乐也同时担任多家阿里系公司的监事。

今年以来，随着大模型的异军突起，生成式人工智能的普及有了坚实的技术基础。与此同时，各类AI换脸、AI变声软件的出现也引发社会的关注与业内的担忧。

“大模型的训练离不开海量的数据，由此就引申出数据合规、知识产权和隐私保护等问题。”上海交通大学安泰经济与管理学院教授史占中在接受上海证券报记者采访时表示，此轮人工智能技术的飞跃背后，数据安全问题也日益凸显，“此前就有很多公开报道显示，个别大模型的训练数据是通过网络爬虫爬取到的互联网数据而获取的，引发了不少的法律纠纷。”

AIGC如何合规发展

在许多业内人士看来，今年7月13日出台的《生成式人工智能服务管理暂行办法》可谓正当其时。

“数字经济时代，数据安全和个人隐私是社会、企业、个人都很关心的问题，和每个人都息息相关。”史占中表示，过去几年，为了加强数据安全和隐私保护，国家出台了一系列法律法规，“在AI发展迅猛的今天，对于提供生成式人工智能服务的企业，也提出了一些新的挑战。”

“这次‘妙鸭相机’的隐私条款引发大众热议，从中也能看出社会对于AIGC的担忧。”一位数字人行业的创业者告诉记者，随着各类AI换脸诈骗的新闻被大众关注，AIGC所引发的对个人数据的搜集越来越引起大众的关注。

“我们看到这份文件是4月征求意见，本月正式发布，8月15日就开始实施。”史占中认为，《生成式人工智能服务管理暂行办法》的迅速出台，体现了我国政府对于生成式人工智能的健康发展和规范应用的高度重视。

数据安全与行业发展如何平衡，在史占中看来，监管机构正在试图寻找折中均衡的方案：“比如说，这次方法中明确规定人工智能算法实施‘备案制’，而不是此前传闻中的行政许可制。”

从近期中央和地方先后下发的相关文件来看，鼓励生成式人工智能技术在各行各业实现创新应用无疑都是政策的主基调。采访中，上海多家相关上市公司负责人表示，此次文件更多意在规范，并非对行业的限制。

“生成式人工智能技术的发展一日千里，目前各个高校、科研机构、企业都在不断积极研究探索，各个新的技术路线、应用场景层出不穷。”史占中认为，此次我国在监管层面提出“包容审慎和分类分级监管”的思路，符合技术和市场的发展规律，体现了我国坚持发展和安全并重、促进创新和依法治理相结合的原则，表明了我国鼓励生成式人工智能创新性发展的立场。

不过，记者也注意到，从目前各级政府的相关办法中来看，尚未明确分类分级的标准，这有待有关部门出台相关法律法规进一步完善相关规定。此外，正如眼下火爆的“妙鸭相机”这类图片AIGC产品，史占中建议，下一步应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

“企业一定要树立数据安全和隐私保护的意识，遵守数据在收集、存储和传输阶段的信息安全或隐私合规的要求，建立健全信息安全和隐私合规的框架，并把责任落实到人，在日常中切实履行安全合规职责。”史占中认为，行业的规范发展也需要政府、企业和社会公众一起合作，解决好技术发展和数据安全、隐私保护的平衡问题。