浙江
苹果公司近日宣布更新App Store审核指南，将针对人工智能生成的非自愿私密影像采取更严格的管理措施。此前，平台规则已经禁止露骨色情内容，而最新规定进一步要求开发者主动预防、监测并移除此类由AI生成的深度伪造内容。如果开发者未能采取有效措施，相关应用可能被从App Store下架。
在更新后的1.2条款中，苹果首次明确点名涉及AI内容生成的应用类别。此举被外界认为可能与部分生成式AI产品有关，其中包括曾因生成裸露和性化深度伪造内容而引发争议的聊天机器人服务。此前，苹果曾警告有关开发商，如果相关应用继续允许生成裸露深度伪造图像，将面临被App Store移除的风险。随后，该公司增加了相应的安全防护机制，并获得苹果批准发布更新版本。
与此同时，苹果新增了编号为2.5.19的审核指南，用于强调开发者不得在应用通过审核后添加审查阶段未披露的新功能。苹果特别提到所谓“脱衣应用”（Nudification Apps），即利用人工智能将真实人物照片伪造成裸露或色情图像的应用程序。苹果认为，部分开发者可能在审核期间隐藏应用的真实用途，待应用获准上线后再启用相关功能。
根据新规，任何包含隐藏功能或未公开功能的应用都将被禁止上架，其中包括在审核阶段故意伪装用途、获批后再开放有害能力的应用。苹果指出，这类做法属于典型的“诱导审核后变更用途”（Bait-and-Switch）行为，而“脱衣”功能正是此类违规行为中的代表案例。
除AI生成内容相关规定外，苹果还对审核指南第五部分进行了修订，将原本针对人口贩运及儿童剥削行为的应用禁令扩展至替代应用分发渠道。这意味着无论应用通过官方App Store还是其他允许的分发方式提供，均须遵守相同的内容安全要求。
苹果在面向开发者发布的公告中强调，对于违反这些规定的应用和开发者，公司将毫不犹豫地采取下架应用、终止开发者资格等处罚措施。
此次规则更新显示，随着生成式人工智能工具日益普及，苹果正进一步加强对深度伪造、未经同意的私密影像生成以及相关滥用行为的监管力度，以降低AI技术被用于骚扰、剥削或侵犯隐私的风险。
阅读规则全文：
https://developer.apple.com/app-store/review/guidelines/
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
