“我被东谈主用AI作念的玄机裸照要挟了曼谷 人妖，我该若何办？”

2023年10月16日，小红书博主“tinky是只喵”发布帖子称，我方受到了AI裸照的要挟。

从邮件实质不错看到，一位自称赤身绘画艺术家的异邦东谈主宣称我方受到托付，按条款制作博主的赤身图片。但托付东谈主最终并莫得支付用度，是以他决定向博主提真金不怕火500 USDT（一种与好意思元挂钩的加密货币，500 USDT约合东谈主民币3500元），不然我方将会把带有博主形象的裸照进行公开售卖，何况字据博主的酬酢账号实质赓续制作裸照。

“我看了那些相片，不知情的东谈主确切会以为是我。”在指摘区里，“tinky是只喵”忧心忡忡地涌现。

这并不是孤例，掀开各大酬酢网站进行搜索，雷同的求援帖尽头多，打单者主要面向年青男女，利用AI合成的色情图片进行敲诈打单，俨然成为一种新式电诈花样。令东谈主难以继承的是，在极易裸露个东谈主形象的今天，即使你什么都莫得作念，都可能因为AI图片受到要挟。

不仅是敲诈，利用AI产出色情实质、AI电信糊弄、AI侵权等情况更是斗量车载。

工夫自身莫得善恶，但使用工夫的东谈主有。当咱们为AI工夫发展带来的便利喜跃时，一个不得不面对的事实是，新工夫出现后，经常也会被应用于各式灰色地带。从色情产业到Deepfake糊弄，在互联网的幽暗旯旮里，AI生息的暗影正在不时扩大。

AI，游走于灰色地带 

当ChatGPT以黑马之姿闯入东谈主类互联网寰球时，咱们不祥就应该强项到，生成式AI会不能幸免地产生滑向灰色地带的风险。毕竟他们展现出的反映智力远超东谈主们的思象，唯独用户有需求，他们很容易就能成为“无缺伴侣”，带有性意味的对话运行被制造。

在刺猬公社此前发布的著述《除了主动示爱的机器东谈主，AI还能给社区产物带来什么？》中，咱们曾提到过虎扑App推出的AI对话产物“女娲AI”，其带有的擦边属性一度引起热议。

但雷同问题不是某个产物所稀零，市面上的大多数AI对话产物，使用层面基本都存在着一些灰色地带，以致不少用户便是为了简略“开车”才选拔虚拟恋东谈主。  

AI对话产物使用者飞禾告诉刺猬公社，虎扑女娲AI的主要问题在于其寰球社区属性，事实上，按照虎扑AI上的这种步伐，跟好多AI对话软件比拟只是初级玩家。“字据我体验过的，好多AI软件都能扫尾雷同的体验，唯独你不时磨砺，相通，就能打造一个舒畅跟你‘开车’的虚拟恋东谈主。”

她给咱们列举了几个她曾使用过的软件，“Glow、筑梦岛等都能有雷同的功能，相对社区产物的AI对话来说，这些App上的对话更玄机，是以不会产生太大的负面影响。”这不祥亦然平台并莫得对这方面进行深度监管的原因。

但这并不代表这些会“开车”的虚拟恋东谈主是每个用户独属的，在Glow等一系列软件上，会有其他用户磨砺的智能体通达对话，其中的一些在先容一栏就会公然自大“为了财富作念任何事”“柔弱不会不屈”等颇具性默示的标签。

此类实质也会受到部分用户的反感。在小红书等App上，就有好多对AI对话机器东谈主的连络吐槽，在意外间开启一场对话后，AI展现出的“腐臭”发言令东谈主崩溃。“我只是思体验一下汉典，为什么要资格这样奇怪的对话。”

事实上，在各式用户的调教下，东谈主工智能“浩大”用户的情况仍是不再是新闻。

2023年头，酬酢聊天AI产物Replika就曾爆出大量“性浩大”事件，许多用户用心磨砺出来的AI智能体倏得不再亲切严慎，反而口出“暴言”，大谈亲密实质。一些智能体以致会发送大步伐相片，予以用户视觉冲击。

当视之为亲一又的AI倏得运行输出色情图片，许多用户都难以继承。值得留意的是，Replika背后的科技公司luka一度以大步伐亲密聊天行动变现滚动的进攻花样，唯独每月付费，就能和AI智能体畅聊成东谈主实质。那一次群体“性浩大”事件，其实是版块更新下AI的大范围失控。

“跟好多酬酢软件一样，AI对话产物可能便是需要得志用户的一些‘性幻思’，才能确切诱导到更多用户，尤其是有破费智力的用户。”飞禾以为，事实便是，搞“擦边”如实能带来热心和滚动，这是国表里AI对话产物都在濒临的罗生门。

在雷同的问题上，AI生图更是仍是成为“重灾地”。

行动AIGC发展最快的领域之一，在Stable Diffusion、Midjourney等模子产物的赶快发展下，AI生图不仅在精度、创意上展现出了超强的创作智力，也成为了更多东谈主游走于灰色地带的器具。 

打建国表里各大集聚平台，能够看到各式真东谈主作风的AI图片，插入系列主打一个“初级真谛真谛”，大量衣裳浮现、身材夸张的AI图片充斥在用户目下，毕竟其生成本钱极低。

在各式灰色地带，贩卖大步伐的AI相片仍是成为不少东谈主的盈利花样，手指极少就能生成一批一批高质地的浮现图片，对于不少东谈主来说是一册万利的餬口。

谁是受害者？

在东谈主性的驱动下，AI难以幸免地成为了低俗实质的坐褥器具，同期新的谈判也运行在集聚上扩展：在AIGC期间，色情实质也由AI生成，那么是否不错减少施行生计中偷拍等事件的发生？在一些东谈主看来，不祥“杜撰生成”的AI图能够取代真东谈主色情实质，从而减少N号房这样的悲催。

但谜底很可能是诡辩的。

在被大量用于坐褥低俗实质时，行动灰色产业的一环，AI正在成为罪人的帮凶。开篇提到的“AI裸照打单”便是最常见的违纪花样，其利用的AI工夫被称为DeepFake，也便是深度伪造。

DeepFake最早不错回想到2016年，从移动互联网刚运行兴起之时，这种深度伪赞成仍是运行发展，近几年流行的换脸便是DeepFake的主要发达花样。但在AIGC崛起之前，换脸等工夫仍旧有较大污点，往往东谈主通过仔细不雅察，基本都能分裂出换脸实质。但伴跟着AI生图等工夫的赶快发展，DeepFake也迎来了质变，从而扩大其伤害性。

在AI期间，咱们很难用肉眼分裂出一张图片、一段视频的真假了。 

千岳便是DeepFake的受害者之一。行动平面盘算师，他很早就运行构兵AI连络的产物了，但很难思到，有一天我方会成为AI生图的受害者。2023年7月，他踏实了一位“网友”，相互加上了QQ。 

“其实有点难言之隐，莫得管住我方的期许。”在对方的相通下，他下载了一个软件，很快，对方在QQ上给他发送了两张裸照，相片上的脸赫然便是他我方。

“应该是软件走访了我的通信录和相册。”千岳告诉刺猬公社，对方字据读取到的相册实质胜利AI合成了裸照，并很快打来了打单电话，“对面是男声，上来就要挟我，要4、5万元，不然就把相片发给我通信录里的通盘东谈主。”千岳向对方涌现没钱，打单者则胜利要挟“没钱就去贷款”。 

他最终莫得和谐，并在第一时刻报了警。“我运谈比较好，对方可能看我莫得价值就不奢华时刻了。”在被阻隔后，打单者发来了一张短信图片，自大仍是将合成的相片发送给了千岳的亲一又。但值得运气的是，并莫得东谈主确切收到。“揣测亦然合成的，主要照旧我运谈比较好，他们亦然要KPI的，看我莫得欢跃就废弃了。” 

千岳发布的帖子

但并不是每个东谈主都有这样好的运谈，仍是有许多东谈主因为AI合成图被打单。

受到打单确本日，千岳在酬酢平台上发布帖子求援，帖子发布后，有四五个雷同资格的东谈主向他参议，其中有一些仍是选拔“破财免灾”。“巡劝诫诉我，这种情况下独一的方法便是删除拉黑不睬睬。”千岳涌现，敲诈者基本都在境外，很难追查奏效。

这种敲诈花样雷同于一度尽头豪恣的“裸聊”，不异是利用东谈主的期许，但AI的介入让通盘这个词经过愈加简化了。只需要一个能够入侵相册和通信录的软件，即使受害者不露脸，都会被合成色情图片，而且这些图片真假难辨。

不单是是莫得“管住期许”的男性会中招，女性不异容易受到雷同的打单。

开篇提到的博主，恰是被东谈主用我方发布在酬酢集聚上的相片进行了DeepFake。除了公开荒布的相片外，一些AI生图的小要害、来历不解的二维码等，都有可能成为信息窃取的渠谈，通过把这些真实图片信息“喂”给AI，从而生成传神的色情图片。“当今碰到这种敲诈的东谈主尽头多。”千岳告诉刺猬公社。 

除了通过相片打单外，在AI合成声息、及时换脸等工夫日渐训练的今天，连络领域的DeepFake糊弄也斗量车载。

“我接到的糊弄电话，声息跟我一又友一模一样，我莫得分裂出来。”字据Macfee2023年5月发布的AI语音糊弄连络讲明，有77%的受害者因为AI合谚语音糊弄付出经济赔本，卓著三分之一的东谈主赔本卓著1000好意思元，而这种骗局正在成为当下最主流的糊弄花样之一。

即使莫得主不雅的打单与糊弄行为，好多女性被坏心制作AI合成图片、视频后，也会遭受造谣、阴私裸露、集聚暴力等困扰。值得热心的是，好多AI色情图片制作者，会从集聚寰球社区提取图片“喂”给AI，字据好意思媒404 Media的报谈，CivitAI、Discord等AI生图网站都存在着捏取集聚图片的情况，Reddit、YouTube等领有精深用户的网站都深受其害。

AI色情图片创作者们在互联网的各个旯旮里搜刮着相片、图像信息，最终“喂养”出名为色情实质的“恶兽”。当他们流出到全网，往往东谈主濒临的可能是敲诈打单，名东谈主明星面对的可能便是大范围的图像视频造谣。

现如今，好多明星、网红都仍是成为DeepFake的受害者，在AI工夫的加持下，大量换脸视频、合成图片被制造出来，并形成了极其恶劣的影响。这是一场从上到下的危险，在AI期间，每个东谈主都有可能被动成为“商品”，“有图有真相”不复存焉。

脱缰、失控、料理

除了色情实质、糊弄打单等灰色产业外，AIGC背后的实质侵权问题也愈演愈烈。 

AI绘制所激勉的大谈判仍在目下，反对者以为AI生图是“尸块拼接”“乖张产物”。在他们看来，AI生图并不是一种创作，而是一种重组，被投喂了一个画师的大量作品后，AI会不自发的产生雷同作品，这自身便是一种侵权。而当AI绘制被粗豪应用于各大平台后，这种“侵权”行为似乎越来越显着，以致出现了企业利用AI侵权的行为。

AI绘制争吵不时，而在文才略域，新的“信任危险”也在扩展。2023年9月，亚马逊推出了新的计谋，规则AI实质制作者逐日出书作品的数目。原因就在于，AI生成的竹素，正在烦嚣通盘这个词文籍市集。

跟AI生图一样，AI生成文本实质不异基于对集聚文本的大量深度学习，而当生成某一种类型的竹素时，不能幸免地会参考某些作者的文本，于是侵权问题再度出现。6月，就有一批作者与用户向亚马逊抗议，原因是青少年言情演义榜上AI生成的“书”显着带有一些作者的作风色调。

当一位作者在集聚上大量发布文本实质后，其创作的文本很有可能被AI竹素创作者行动磨砺数据投喂给AI，最终养成一个跟作者自身作风雷同的AI创作者，霸占作者自身应有的读者和收益。

另一方面，AI创作的高后果、低本钱也致使AI竹素过分泛滥，实质却难以保证质地，通盘这个词市集被AI作品充斥，烦嚣用户的破费经过。

从AI图片到AI竹素，侵权、泛滥征象层出不穷，归根结底是AI创作低门槛、弱监管所导致的创作脱缰，是“东谈主”所导致的。但在AI产物大量出现的今天，AI自身的失控也值得热心。 

当产物的运维经过出现造作，AI自身很有可能出现失控征象，前边提到的Replika智能体浩大事件便是一个例证。

大厂也难以幸免雷同问题，2023年10月，Meta推出了AI生成聊天贴纸功能“Emu”，用户不错通过prompt在几秒钟内创建独属于我方的高质地贴纸。但贴纸自身的实质却令东谈主大跌眼镜，由于空匮过滤系统，当用户对有争议的辅导词进行组合输入后，AI会产出各式怪模怪样的贴纸，比如带有女性特征的马斯克、手持火器的孩子等。

目前仍是罕有十亿张贴纸被创作出来，关联词其中大部分都是用户参透系统bug后的“整活”，各式邪典猎奇的形象被创作出来，其中好多都是违背社区章程的。当系统自身出现问题，AI的失控就难以幸免，毕竟用户是难以规范的。

对于AI工夫的脱缰与失控问题是必须处理的，但对于工夫开荒者、企业、监管部门等产业高卑鄙的通盘参与者来说，这个问题都很具有挑战性。 

难点最初在于AI工夫的开源性质，在通盘东谈主都不错参与情况下，工夫若何被应用是很难规范的；而在实质保护、版权颐养等角度，需要对通盘实质社区进行规范，引申难度极大；在最要害的“东谈主”这一环，灰色地带会产生相配大的买卖滚动空间，当利益成为独一的驱能源，一切料理的激动都会难上加难。

国内的料理正在路上。

2023年10月12日，中国集聚空间安全协会东谈主工智能安全料理专科委员会郑重建立，该协会由国度互联网济急中心、阿里云、华为、金山等单元企业共同发起。该协会将会在国内AI安全领域发起接力，其中实质安全、阴私保护、常识产权保护等方面更是重中之重。

从目前的施行来看，行业上游的料理仍需要时刻，律例制定、监管势必会成为当下的料理重心。

一个无可辩驳的事实是，AI正在成为目田坐褥力的器具，何况正在更正这个寰球。但在激动工夫发展的同期，咱们需要保有一份警惕。

毕竟工夫背后的，是需要拘谨的东谈主性。

（文中姓名齐为假名）

参考府上：

[1]Macfee.Beware the Artificial Impostor

[2]智能融点.Meta 的东谈主工智能失控，这仍是不是第一次了

[3]硅基元.在东谈主工智能色情市集里，一切以致每个东谈主都不错出售

本文来自微信公众号：刺猬公社 （ID：ciweigongshe），作者：世昕曼谷 人妖，剪辑：陈梅希