专家（jiā）：细化技术标准让“AI数字人”透明化（huà）合（hé）规化

　　□ 本报记者 　赵 丽

　　□ 本（běn）报（bào）实（shí）习生 宋昕怡

　　“生西红柿和生黄瓜不（bú）能一起吃（chī）了！黄瓜中的（de）分解酶（méi）会破坏维（wéi）生素C，一（yī）起吃轻则影响（xiǎng）西（xī）红柿中维生素C的（de）吸收，重则可（kě）能导致腹泻、肠胃不（bú）适甚至食物中（zhōng）毒。”电话那头（tóu），母亲说得头头是道，电话这（zhè）头的赵女士却（què）听得一头雾水。

　　随即，母亲发来一则视频。赵女士（shì）回忆说：“一位满头花白头发（fā）、身着白大褂的‘医（yī）生’在（zài）视频里侃侃（kǎn）而谈‘养生秘（mì）籍’，甚至宣称‘清淡饮食就（jiù）是只吃素食，完全不（bú）吃肉’。我（wǒ）妈把这个‘医生’的话（huà）奉为圭臬（niè）。”但赵女士仔细查看后，在（zài）视频右下角发现一串（chuàn）几乎透明的标注——“此视频由AI辅助生成（chéng）”。

　　“后来，我（wǒ）妈戴着（zhe）老花（huā）镜，在（zài）我的指点（diǎn）下找了一会儿（ér）才（cái）看（kàn）见那行（háng）字（zì）。”赵女士无奈地说（shuō），“这也不能（néng）怪老人（rén），现（xiàn）在AI生（shēng）成（chéng）的‘数（shù）字人’泛滥，还（hái）难辨真假，实在让人防不胜防。”

　　有此困扰（rǎo）的（de）并非只有（yǒu）赵女士一家（jiā）。《法治日报（bào）》记者近日随机采访了数十名路人，至（zhì）少有（yǒu）七成受访者称曾刷到过“AI数字人（rén）”视频，并（bìng）且“难以分清到底是真人还是‘数字人（rén）’”，而（ér）原因主要在于（yú）“找不到有效提（tí）示”。

　　很多人担忧：真人“数字人”傻（shǎ）傻分（fèn）不清楚，背后是肖像（xiàng）权侵权乃至敲诈、诈骗等违（wéi）法犯罪的风险隐患。

　　是（shì）否数字人难辨别

　　在重（chóng）庆读大（dà）学（xué）的郑媛（yuán）浏（liú）览某社交平台时（shí），刷（shuā）到一（yī）则帖子——照（zhào）片里的女生（shēng）外形温（wēn）婉（wǎn）可（kě）人，穿搭清（qīng）爽（shuǎng）时尚，很夺人眼球。郑媛点赞并关（guān）注了该账号。

　　但不多时，郑（zhèng）媛（yuán）却刷到另（lìng）一名博主揭露用“AI生（shēng）成人（rén）”起号（hào）的内容，被打假的恰（qià）恰是她先前（qián）所（suǒ）关注的这个账（zhàng）号。“我仔（zǎi）细翻阅了那个女（nǚ）生的（de）账号主页，她并未标（biāo）明使用AI技术，还在评论区亲切地与其他用（yòng）户互动。”面对（duì）这样的局（jú）面，郑媛（yuán）说自己也（yě）“糊涂（tú）了”。她后来观察了一（yī）个多（duō）星期，找到了（le）该账号图（tú）片确为AI生成的（de）证据——有网友（yǒu）在其（qí）他（tā）账号上发现了妆容（róng）和（hé）衣着几乎一（yī）样的“数（shù）字人”，而人物（wù）介（jiè）绍却完全不（bú）同。

　　习惯（guàn）在直播（bō）间购物的北京市民李菲说，自己经常误入“数字人”直播间，“数字人”主播侃侃（kǎn）而谈介绍商品，手部动作（zuò）还能随着她（tā）说话的节奏不断变动（dòng），声音（yīn）流畅而自然。

　　“要仔细看才能看到直播间左侧一行‘现（xiàn）直播内容为数字（zì）人直播，非真人直播’的小字提（tí）醒（xǐng）。”李菲（fēi）说，自己现在习（xí）惯了（le）进直播间（jiān）“先（xiān）找小字”，确认（rèn）主播是（shì）否为真人，“但（dàn）真的‘费眼睛’，不是在犄角旮（gā）旯（lá），就是字体几乎透明，不注意根本看不到”。

　　袁伟(化名)是某985高校（xiào）计算机系研（yán）究生。他告（gào）诉记者：“现在一些AI大模型（xíng）生成的图，别说中老年人（rén）会误（wù）以为真，很多没怎么（me）接触（chù）过AI技术的年轻人都不（bú）见得能分辨真（zhēn）假（jiǎ）。”

　　他随即为（wéi）记者演示，向某AI软件输（shū）入指令“帮我（wǒ）生成图片：一个容貌姣好的（de）女性，精细的（de）皮肤纹理，室外自然光”，随即生成的图（tú）片（piàn）与真（zhēn）人（rén）照片相差无几，如（rú）果（guǒ）不（bú）是右下角自带的水印（yìn），只（zhī）让（ràng）人觉得是（shì）一张（zhāng）普通的美（měi）女照片。“如果说早期的AI软件大（dà）多不能生成自然的手（shǒu）指和人体（tǐ）比例（lì），现在技术进步得很快，生成的手指和人体比例已经比较像样（yàng）了，更加（jiā）大（dà）了分辨的难（nán）度。”

　　“这样的AI生（shēng）成图片（piàn）或视频，如果不作标识提示，会让很多人信以（yǐ）为真。”袁伟说（shuō）。

　　大量（liàng）账（zhàng）号未作（zuò）标识

　　记者在某社交（jiāo）平台（tái）上注（zhù）意到一名为（wéi）“××AI打假人（rén）”的（de）账户（hù），其发帖称自己将（jiāng）致（zhì）力于“揪出纯（chún）AI生成的内容博主，帮（bāng）小白识别真伪”，还表示“关注（zhù）了很多（duō）AI生成非真实的帅哥美女”。

　　在（zài）其关（guān）注列（liè）表里有300多个账号，记者随机（jī）选取了其中20个（gè）账号（hào）浏览发现，若（ruò）没有看到评论区“这（zhè）是AI吧，手指的细节很诡异”“背景里的文字都是乱（luàn）码”等（děng）留（liú）言，记（jì）者第一反应只以为他们是普（pǔ）通的颜值时尚（shàng）类博主。

　　这20个（gè）粉丝量几百到几万不（bú）等（děng）的（de）账号，仅有3个账号在简（jiǎn）介（jiè）中写明“虚拟男友（yǒu）”“AI”“友情提（tí）示视频由虚拟（nǐ）现实（shí）技术制（zhì）作”，两个账号主（zhǔ）页（yè）的内容经（jīng）平台审核后被打上了“疑似包含AI创作信息，请谨（jǐn）慎甄别”的标（biāo）签。其余账号在（zài）简（jiǎn）介、内容中并（bìng）未提（tí）及“AI”字眼，平台的（de）监测机制也并未识别到，这些账号甚至还在评（píng）论区（qū）熟（shú）稔地与其（qí）他（tā）用户互动，让自己（jǐ）看上去（qù）更有“真人感”。

　　在调查过（guò）程中，有（yǒu）超（chāo）过一（yī）半的受访者向记者表示AI生成的“数字人”和真人难以分辨，相关（guān）的提示也并不显眼。

　　此外，记者发现，有人还会特意（yì）教人如何绕过平台的“AI打标”。据了解，目前，各平台已（yǐ）普遍（biàn）升级（jí）AI内容（róng）识别（bié）系（xì）统（tǒng），要（yào）求对AI生成作品（pǐn）进行显著标（biāo）注。但在调查中，有分享经验的博主表示花费不到千元就可以购（gòu）买所（suǒ）谓的AI工具（jù）中（zhōng）预配置的镜像文件，称用这些镜像参数一键生成的虚拟人形象可以以（yǐ）假乱真，最大限度规避平台的AI内（nèi）容强制（zhì）标注机制。

　　细化标准（zhǔn）加大惩处

　　记者梳理公开（kāi）信息（xī）发（fā）现，实践中，一些有（yǒu）心（xīn）人（rén）士利用“数字人”形象（xiàng）行不（bú）法之事（shì）。

　　据报道，张文宏、雷军（jun1）等公众人物形象曾被利用生成（chéng）“AI数字人”，用来（lái）带（dài）货、恶搞（gǎo）。一（yī）些直播间内，“AI数字人”向（xiàng）中老年人群体虚（xū）假宣（xuān）传（chuán）保健品，诱导购买。更有（yǒu）甚者，一些不法分子利用“AI数字人（rén）”进（jìn）行敲诈、诈骗等（děng）犯（fàn）罪。例如（rú），山西忻州公安机关工作发现，犯罪嫌疑人王（wáng）某某利用AI技术，制作合成（chéng）“数字人”新（xīn）闻视频引流，进而进行有偿发帖、有偿删帖等敲诈勒索活动。2024年，江西一名65岁老人到银行办理（lǐ）业务（wù），声称要贷（dài）款200万元给男朋（péng）友（yǒu）“靳东”拍戏（xì），后（hòu）经调查，老人（rén）手机里的“靳东（dōng）”视频是AI合成的。

　　重庆大学（xué）网（wǎng）络（luò）与大（dà）数据研究院副院长罗勇认为，就价值取向而言，AI产业发展不能凌驾于网络安（ān）全之上。对于利用AI技术生成的（de）短（duǎn）视频，网络用户特别（bié）是（shì）未成年人（rén）和老年人由于缺乏必要（yào）的（de）鉴别（bié）能力，往往（wǎng）会信以为真，由（yóu）此可能产（chǎn）生（shēng）负面网络舆情，甚至对网络安全造成（chéng）负面（miàn）影响（xiǎng）。

　　据受（shòu）访（fǎng）专家介绍，当前我国已经出（chū）台（tái）了《生成式人工智能服务管理暂行办法（fǎ）》《互联网信息服务深（shēn）度合（hé）成管理规定》等法规，对（duì）“AI数字人”和（hé）AI生成内（nèi）容的标识、数（shù）据来源等提出了具体要求。

　　今年3月，国家网信办等四（sì）部门联合发布《人工智能生成合成内容标识办法》(以下简（jiǎn）称标识办法（fǎ）)，通过标识提醒用户辨别虚假信息，规范内（nèi）容制作、传播各环节标识行（háng）为，为规范（fàn）AI生成内容划定红线。该办法将于9月1日起（qǐ）施行。

　　中国政（zhèng）法大学教（jiāo）授郑飞指出（chū），相（xiàng）关规定一定程度（dù）存在落（luò）地（dì）难的（de）问题。一是监管和技（jì）术手段有限，难以彻底发现并纠正（zhèng）违规行为。例如，一些“AI起号”从业者通（tōng）过（guò）预（yù）置“镜像参数”生成极为逼真的虚（xū）拟人（rén）像，从而逃避平台的强制标注要求。而监管部门（mén）特别是基层执（zhí）法部门，通常面（miàn）临职责不清、执法手（shǒu）段和（hé）执法力量不足的问题；二（èr）是部分平台在（zài）一定程度上（shàng）“管不了”也“不想管”。“管（guǎn）不了”在于平台管理（lǐ）能力与技术手段欠（qiàn）缺（quē），尤其（qí）是（shì）一些小型（xíng）平（píng）台，缺乏足够的审核人力（lì）和技术支（zhī）持。“不想管”则（zé）是背后利益驱动（dòng）。未（wèi）明显标识“AI数字人”或合成（chéng）内容，会让受（shòu）众误以为是真（zhēn）人或真实事（shì）件，从而更（gèng）容易引起人们的兴趣（qù）和好奇心，吸引更多的流量（liàng）和关注，进（jìn）而（ér）带来更多（duō）的商业利益。

　　“以网络社交平台（tái）为代表的网络服务提供者在AI生成内容的应用场景中，应当进（jìn）一步（bù）完善用户（hù）使（shǐ）用AI协议规定，并强（qiáng）化对（duì）AI生成内容的审核。”罗勇（yǒng）说。

　　郑飞建议，应从明确标识要求和加大责任追究（jiū）两方面发力。标识办法明确要求，一旦检测到AI生（shēng）成内容，传播平（píng）台应在发布内容周边（biān）添加显著（zhe）提示标识，并在文件（jiàn）元数（shù）据中加隐式（shì）标识，确保全流（liú）程可溯源。在未来（lái）落实过（guò）程中，可进一步细化（huà）技（jì）术标准，比如（rú）规（guī）定标（biāo）识文字的（de）最（zuì）小高（gāo）度、对比度、展示时长等，让标识一（yī）目了然。另外，对于（yú）不按规定标注的行为（wéi），需要严（yán）厉处罚：除加大行政罚款、暂（zàn）停业务或（huò）纳入不良信（xìn）用记录等行政措施（shī）外，还（hái）要利用（yòng）法律手（shǒu）段加大威慑。通（tōng）过明确、显著的标识标准和更严厉（lì）的责任追究，才能从（cóng）根（gēn）本上震慑违规不标注行（háng）为（wéi），实现“AI数字人”应用的透（tòu）明化、合规（guī）化。