本初是谁g alt="离谱！两高中(zhōng)生用AI生(shēng)成裸照，疯狂「变现」_黑料正能量" decoding="async" src="https://mmbiz.heiliaofuli.com/wp-content/uploads/2023/04/eeb66e66a62c1c8.jpeg?imageMogr2/thumbnail/2160x0/format/webp/quality/80" data-backh="247" data-backw="578" data-ratio="0.42777777777777776" data-s="300,640" data-type="jpeg" data-w="1080">

编辑【导读】生成式(shì)AI火(huǒ)了以(yǐ)后，限制输(shū)出内容的(de)就只剩人们的想(xiǎng)象力了。这不(bù)，两个高中生用AI生(shēng)成裸照，疯狂在道德(dé)的底线(xiàn)游走。

生成式AI爆火之后，人(rén)们发现(xiàn)，这AI还真的什(shén)么都能生成(chéng)啊。

从ChatGPT生成语段和用户(hù)自(zì)如(rú)对话(huà)，到AI生成(chéng)图(tú)像，再到(dào)搭载(zài)GPT-4的微软(ruǎn)全家桶连ppt都能一键生成，好像没有什么东(dōng)西是生(shēng)成式AI做(zuò)不到的了(le)。

能是一方(fāng)面，怎么(me)加以(yǐ)利(lì)用变现又是另一码事了(le)。

这不，国(guó)外(wài)几个(gè)不知天高地厚的大学生(shēng)，竟然用AI生成裸照在(zài)Reddit上卖。

甚至(zhì)还大赚了一(yī)笔。

AI卖「黄(huáng)」？

图片的(de)这(zhè)个姑(gū)娘叫Claudia，她(tā)有(yǒu)着(zhe)乌(wū)黑(hēi)的长发，甜美的笑容。在(zài)社交媒体上(shàng)，她会update自己的心情，觉得自己美(měi)美哒(dá)。

然而在Reddit上，只要你跟她(tā)私聊，她就卖你裸照(zhào)。不得不说，在Reddit上她还挺火。可惜(xī)，Claudia是个假的(de)。社交媒体上的所有照(zhào)片(piàn)，包括上面这张(zhāng)，全都(dōu)是用AI生成的(de)。据两位合成媒体领域的研究人(rén)员(yuán)说，这一组Claudia的(de)照片都(dōu)是冲着坑蒙(méng)拐(guǎi)骗去的(de)。

总有(yǒu)人看不出这是AI，然后为此买单。最(zuì)近(jìn)，像Midjourney和Stable Diffusion这种能生(shēng)成图片(piàn)的(de)AI发展非常快，他们所展现出的创造性备受瞩目。但在Claudia之前，绘(huì)图AI一般(bān)都(dōu)是靠生成一些逼真(zhēn)的艺术(shù)作品或者美丽(lì)的画作夺人眼球。在Claudia之后，人(rén)们认识到用AI生成假人的图片(piàn)的功能，还有这个(gè)让(ràng)人意想不到(dào)的(de)变现手段(duàn)。

其实(shí)很多年以来，一部(bù)分新技术的发展都跟色情行业有(yǒu)那么一(yī)点关系(xì)，AI图像生成看来也没能免(miǎn)俗(sú)。目前，Reddit上有好几千个账户都在搞AI图像生成——而且大部(bù)分(fēn)生成的都是女性(xìng)。带来(lái)的影响(xiǎng)就是，改变了人们对于模特，和(hé)一部分演员的需求，同时加深了人们对于物化女性(xìng)这(zhè)个议题(tí)的担(dān)忧。

有(yǒu)人匿(nì)名表(biǎo)示，「反正(zhèng)也遇不(bù)到(dào)真人(rén)，就算不是AI生(shēng)成(chéng)的也遇不到(dào)真人，那她究竟是真是假又怎(zěn)么(me)样呢？」Claudia的(de)账(zhàng)户并没有做出回应(yīng)。但是(shì)有两位(wèi)大(dà)学(xué)生表示，自己是该账户的(de)管理者。在(zài)接受(shòu)「滚石」杂(zá)志(zhì)采访(fǎng)时表示，他们从Claudia这个账户(hù)挣了100美元(yuán)。研究人员继续出发，根据一些(xiē)AI图像生成(chéng)器留下的蛛丝(sī)马(mǎ)迹，确定了几(jǐ)个(gè)女性(xìng)用(yòng)户的在线(xiàn)资料。他们(men)判断，这(zhè)些(xiē)头(tóu)像是AI生成的。

就像(xiàng)是Claudia的账户一样，这些账户也(yě)在Instagram、Reddit、推(tuī)特和OnlyFans等(děng)论坛上(shàng)分享女性的裸(luǒ)照，并标明(míng)付费以解锁更多图片。研究人员联系了这些账(zhàng)户(hù)后(hòu)这些账户没有(yǒu)对该问题(tí)做出任何(hé)相(xiāng)关回应。由(yóu)于大部分AI图像生成(chéng)的时(shí)候(hòu)并没(méi)有任何水(shuǐ)印，所以普(pǔ)通用户(hù)无法进行辨(biàn)别。所以，有大量的用(yòng)户被这些(xiē)免费图片吸引(yǐn)，给这些(xiē)账户留言(yán)。因为，他们相信这(zhè)些(xiē)照(zhào)片是真的（也许(xǔ)是因为不在乎）。

为啥这(zhè)么逼真(zhēn)？

AI生成图像的原理其实并不复(fù)杂。

在(zài)整个(gè)过程中，AI会先生成一个较低分辨率的(de)图(tú)像，然(rán)后慢慢(màn)增(zēng)加(jiā)细(xì)节(jié)和复杂度(dù)。神经网络有很多层，每一层神经网络(luò)负责处理不(bù)同级(jí)别的特征。从简单的(de)边(biān)缘和纹理(lǐ)，再到(dào)复杂的场(chǎng)景等等(děng)。各层神(shén)经网络之间互(hù)相连(lián)接(jiē)，这样AI就可(kě)以将不同层次上(shàng)的(de)特征进行(xíng)组(zǔ)合。比如(rú)，AI可能会先确定一个场景的大致(zhì)布局(jú)的框架，然后在(zài)这个基础上(shàng)慢慢(màn)添加其(qí)它物体或者细节。在这个过程中(zhōng)，AI根据(jù)prompt调整该部分的组合(hé)，以生成相关图(tú)像。目前很多(duō)AI生(shēng)成器(qì)靠(kào)的(de)是所谓的扩散模(mó)型。任何人都可(kě)以(yǐ)输入简短的prompt，然后免费得到(dào)一(yī)张足(zú)以以假乱真的图片(piàn)。初(chū)次(cì)创建完还能进一步调教，让照片变(biàn)得(dé)更有说服力。底(dǐ)线在哪里(lǐ)？

技术(shù)说完了，事儿(ér)本身(shēn)说完了，就该考虑一些技术之外的(de)东西了。

从大(dà)往小说，技(jì)术应该被这么(me)应用吗？人人都可以免费生成图片拿来变(biàn)现，今天是(shì)裸照，明(míng)天又会是什么？毕竟，无所不能的AI真的无(wú)所(suǒ)不能，人们的想象力和鬼点(diǎn)子(zi)可是越来(lái)越多。而缺少相关法律(lǜ)法规约束的话(huà)，这种行为(wèi)只(zhǐ)会越(yuè)来越多，并且难以(yǐ)控制。Claudia的管(guǎn)理者面对(duì)媒体的诘问，只要轻(qīng)飘(piāo)飘的说(shuō)上一(yī)句，我这是假的呀！就(jiù)能逃(táo)脱任何(hé)指控(kòng)了(le)。再(zài)进一步，Claudia这个账户折射出了(le)女性(xìng)所(suǒ)面临的一部(bù)分社会(huì本初是谁)问题。物(wù)化女性等(děng)词汇(huì)本(běn)身就屡次出现(xiàn)在(zài)人(rén)们的讨论之中。小编认为，这种(zhǒng)生(shēng)成的裸照(zhào)显(xiǎn)然是对女(nǚ)性(xìng)的冒犯，更不用说拿来传播得利了。相信AI的未来一定是(shì)利大(dà)于弊的，只不过在(zài)充满荆棘的道路(lù)上还是要谨慎前行。

未经允许不得转载：橘子百科-橘子都知道 本初是谁