生成式AI支撑多品种型的合成，包罗图像生成、语音克隆和深伪视频等形式。未经授权的名人照片或不妥内容图像、仿照名人声音制制假告白或假旧事，以及将名人面目面貌替代到不妥内容视频或虚假声明中的内容都属于深伪内容。这些深伪内容通过社交、使用法式以及暗网，对名人形成了间接的经济取声誉损害。
2024年3月，珍娜·奥尔特加（Jenna Ortega）和塞布丽娜·卡彭特（Sabrina Carpenter）的AI生成不妥图片被用来推广一款名为Perky AI的使用。这些图片通过Facebook告白大规模，方针是吸援用户点击下载。这一事务不只了两位名人的现私权，还正在中激发了对生成式AI手艺的担心。同年10月，汤姆·汉克斯（Tom Hanks）的深伪视频呈现正在Instagram上，视频模仿了汉克斯的语音和脸色，用于宣传一个虚假的牙科打算告白。这一高度逼实的深伪视频让很多消费者上当，同时也对汉克斯的抽象形成了损害。更早之前的2024年1月，泰勒·斯威夫特（Taylor Swift）的深伪不妥内容图片初次正在Telegram群组中被发觉，随后敏捷到X平台（原Twitter）。这些图片不只对斯威夫特的小我声誉形成了显著损害，也正在社会中掀起了对深伪手艺监管缺失的。
按照微软2024年的全球正在线平安查询拜访演讲，大部门消费者对生成式AI可能激发的潜正在问题表达担心，特别是利用AI生成诈骗、深伪等方面。
《综艺》智库取Smith Geiger2024年展开的研究了深伪内容对消费者的显著影响，出格是正在年轻群体中的影响尤为凸起。数据显示，18-24岁的用户中有 47% 曾误认为深伪内容是实正在的，这一比例正在所丰年龄段中最高，反映出年轻用户更容易遭到虚假内容的。这可能取其对社交的高频利用及其对数字内容的高度依赖亲近相关。比拟之下，全体用户中有 30% 暗示曾被深伪内容。此外，深伪内容的快速生成和对检测工做提出了庞大挑和。人工检测深伪内容极为耗时，现有团队难以应对每天大量生成的侵权内容。虽然手艺东西正在必然程度上供给了支撑，但其正在处置大规模内容时仍显得效率不脚，出格是当部门深伪内容分布正在暗网或私密平台时，逃踪和删除的难度进一步加剧。这种荫蔽性使得现有的手艺手段和监管手段均面对严峻，凸显了加强手艺立异取监管政策的需要性。当前深伪检测手艺次要依赖分类器模子、多模态检测东西和及时等体例。这些手艺可以或许阐发数字内容能否为合成，并对图像、音频和视频等多品种型的内容进行处置。例如，Reality Defender的东西可以或许对视频的每4-6秒进行预测，标识表记标帜可能被操控的片段。Resemble AI的音频检测东西通过度析音频的每几毫秒数据生成“锯齿状可视化”图表，以显示录音的完整环境。虽然手艺前进显著，但仍然存正在挑和，包罗检测模子需要不竭顺应新型生成式AI东西的更新，以及压缩和从头编码的内容可能躲藏深伪踪迹而降低检测精确性。来历验证手艺是应对深伪内容的另一种方式，包罗嵌入水印、元数据加密和指纹识别等。这些手艺通过正在合成内容中嵌入不成见的标识和加密消息，以及生成独一的哈希值（一种通过哈希算法生成的固定长度数据摘要，用于独一标识和验证原始数据），以标识内容并逃踪其分发径。例如，Adobe的Content Authenticity Initiative（CAI）为内容供给了完整的来历验证链，Truepic则供给端到端的验证处理方案。这些手艺的普遍使用将有帮于提高数字内容的通明性取可托度。
查询拜访显示，大大都消费者支撑利用来历验证手艺以冲击深伪内容。例如，76。6% 的人认为正在深伪内容上添加标签或水印是无效的；此外，87。3% 的消费者支撑社交平台采纳更严酷的办法，好比或暂停深伪内容的用户权限，这表白对平台监管的等候较高。取此同时，确保虚假内容可以或许及时被移除。
另一方面，行业决策者也对应对深伪内容的手艺手段表示出高度承认。研究显示，62% 的决策者认为从动检测东西是处理深伪内容问题的环节。这种东西可以或许高效识别潜正在的虚假内容，从而为平台的办理和清理供给手艺支撑。比拟之下，消费者则愈加关心间接影响其体验的办法，例如平台通明度和教育培训。正正在积极制定律例以规范生成式AI的利用。例如，美国版权局（USCO）发布了关于数字复成品的政策，并就人工智能生成内容的版权问题开展了系列会商；欧盟的《通用数据条例》（PR）则强调对数据现私的，为生成式AI的成长和使用供给了法令保障。正在美国，多个州和联邦层级正正在推进生成式AI的法令框架。例如，《NO FAKES法案》旨正在未经授权的深度伪制内容，出格是用于欺诈或名人抽象权的内容，而的《ELVIS法案》则专注于名人的姓名、抽象、声音等数字权益。取此同时，也出台了多项相关法案，包罗AB 1836（未经同意利用或人的数字抽象）和SB 926（制做和深伪不妥内容），这些律例正在应对生成式AI方面起到了积极感化。名人数字复成品的授权机制正正在快速成长，其使用场景包罗告白取品牌合做、影视取逛戏中的虚拟演员使用，以及用于粉丝互动的名人聊器人或虚拟抽象。例如，2024年7月，美国版权局发布了一份关于数字复成品的演讲，指出名人应通过法令机制节制其数字抽象的利用。这种授权机制不只为名人带来额外收入，也帮帮品牌提拔市场吸引力。例如，利用AI生成的虚拟名人正在告白中推广产物，能够正在全球范畴内同时展开多言语、多文化的市场勾当。为了支撑数字复成品的使用，需要成立强大的数据办理系统，这些系统包罗分布式存储、及时和现私等功能，以确保锻炼数据的平安性并防止泄露，同时通过从动逃踪名人数字复成品的利用环境保障其性。消费者对名人AI脚色表示出稠密乐趣。这种乐趣集中表现正在虚拟名人的互动使用上，例如聊器人、语音克隆和虚拟舞台表演等。名人AI脚色的使用场景包罗影视特效、逛戏配音、虚拟演唱会和品牌代言等，操纵数字扫描或语音克隆手艺实现。例如，Meta推出的聊器人基于名人语音取用户互动，而Virgin Voyages通过詹妮弗·洛佩兹（Jennifer Lopez）的虚拟抽象打制个性化营销勾当。这些案例展现了名人数字复成品正在文娱和贸易范畴的普遍潜力取吸引力。将来的生成式AI东西需要愈加通明，以加强用户信赖。手艺公司已起头引入生成器标识功能，例如通过水印或出处标识表记标帜，利用户可以或许识别内容来历。如许的手艺改良将为冲击深伪内容的供给根本。同时，教育被视为持久处理深伪内容的环节策略。通过手艺立异、律例实施和教育的连系，生成式AI能够正在鞭策立异和权益之间实现均衡。这不只需要手艺公司的投入，也需要行业协会和的配合勤奋，从而成立一个既具前瞻性又负义务的生成式AI生态系统。
