编辑【导读(dú)】生成式AI火(huǒ)了以(yǐ)后，限(xiàn)制输出内容的(de)就只(zhǐ)剩人们的想象力了。这(zhè)不，两个高(gāo)中生用AI生(shēng)成(chéng)裸照，疯狂在(zài)道德的底线游走。

生成式AI爆火(huǒ)之后，人们发现，这(zhè)AI还真(zhēn)的什么都(dōu)能生成啊。

从ChatGPT生成语段(duàn)和用户(hù)自如(rú)对(duì)话(huà)，到AI生成(chéng)图(tú)像(xiàng)，再到(dào)搭(dā)载GPT-4的微软全家桶连ppt都能一(yī)键生(shēng)成，好像没(méi)有什么东西是生成式(shì)AI做不到的了。

能是一方面，怎么加以利(lì)用变现又是(shì)另一码事了。

这(zhè)不，国外几个(gè)不知天高地(dì)厚的大学生(shēng)，竟(jìng)然用AI生成裸照在Reddit上卖(mài)。

甚至(zhì)还(hái)大赚了一笔。

AI卖「黄」？

图片(piàn)的这个(gè)姑娘叫Claudia，她有着乌黑的长发(fā)，甜(tián)美的笑容。在社交媒体上，她会update自己的心情，觉得(dé)自己美美(měi)哒。

路由器有使用年限吗ata-cropx2="816.4270462633452" data-cropy1="0" data-cropy2="725.1387900355871" data-height="726" data-ratio="0.8897058823529411" data-type="jpeg" data-w="816" data-width="968">

然而在Reddit上(shàng)，只要你跟她私(sī)聊，她就卖(mài)你裸照。不得不说，在Reddit上她(tā)还挺火。可惜，Claudia是个假(jiǎ)的。社交媒体上的所(suǒ)有照(zhào)片(piàn)，包括(kuò)上面(miàn)这张，全都是用(yòng)AI生(shēng)成的。据两位合成媒体(tǐ)领域的研究人员说，这(zhè)一(yī)组Claudia的照(zhào)片都是冲着坑蒙拐骗(piàn)去的。

总有人看不出(chū)这是AI，然后为此买单(dān)。最近，像Midjourney和Stable Diffusion这种能生(shēng)成图片的(de)AI发(fā)展非常(cháng)快，他们所展现出的创(chuàng)造性备受(shòu)瞩目。但在Claudia之(zhī)前(qián)，绘图(tú)AI一般都是靠生(shēng)成一些(xiē)逼真(zhēn)的艺术(shù)作(zuò)品或者美丽的画(huà)作夺人(rén)眼球。在Claudia之后，人们认识到用AI生成假人的图片的功能，还有这个让人意想不到的变现手段(duàn)。

其实(shí)很多年以来，一部分新技术(shù)的发展(zhǎn)都跟(gēn)色情行业有那么(me)一点关系，AI图像生成看(kàn)来(lái)也没能免俗。目前，Reddit上有好几(jǐ)千个账户都(dōu)在搞(gǎo)AI图(tú)像生成(chéng)——而且大部分生成的都是女性(xìng)。带来的(de)影(yǐng)响就(jiù)是，改变了人们(men)对于模特，和一(yī)部(bù)分演员的需求(qiú)，同(tóng)时加深(shēn)了人们对于物(wù)化女性这(zhè)个(gè)议题的(de)担忧。

有人匿名表示，「反正也(yě)遇不(bù)到(dào)真人，就算(suàn路由器有使用年限吗)不(bù)是AI生(shēng)成的也遇不到真人(rén)，那(nà)她究(jiū)竟是真是(shì)假又怎么样(yàng)呢？」Claudia的账(zhàng)户并(bìng)没(méi)有做出回应(yīng)。但是有两(liǎng)位大(dà)学生(shēng)表示(shì)，自己(jǐ)是该账户的管理者。在接受「滚(gǔn)石」杂志采访(fǎng)时(shí)表示，他们从Claudia这个账户挣了100美元。研究人员继(jì)续(xù)出发，根据(jù)一些(xiē)AI图像生成器(qì)留下的蛛丝马(mǎ)迹，确定(dìng)了几(jǐ)个女性(xìng)用户的(de)在(zài)线资料。他(tā)们(men)判断，这些头像是AI生成的。

就像是(shì)Claudia的账户一(yī)样，这些账户也在Instagram、Reddit、推特和OnlyFans等(děng)论坛(tán)上(shàng)分享女性的裸照，并标明(míng)付费以解锁更多图片。研(yán)究人(rén)员(yuán)联系了这些账(zhàng)户后(hòu)这些账(zhàng)户(hù)没有对该问题做出任何(hé)相关回应。由于大部分AI图像生成的时(shí)候(hòu)并(bìng)没(méi)有任何水(shuǐ)印(yìn)，所(suǒ)以普通用(yòng)户无法进行辨别。所以，有大量的(de)用户(hù)被这些免费图片(piàn)吸引，给这些(xiē)账户留(liú)言(yán)。因(yīn)为，他们相信这(zhè)些照片是真的（也(yě)许是因为不在乎）。

为啥这么逼真？

AI生成(chéng)图像的原理其(qí)实(shí)并不复杂。

在整个过程中(zhōng)，AI会先生成一个较(jiào)低分辨率的图(tú)像，然后慢(màn)慢增加细(xì)节和复杂度。神经网络有很多层，每一层神经网络负责处理不同(tóng)级别的特征。从简单的边缘和纹理，再到复杂(zá)的(de)场景等等。各层神(shén)经网络之(zhī)间互(hù)相连接，这(zhè)样AI就可以(yǐ)将不同(tóng)层次(cì)上(shàng)的特征进行组合(hé)。比如，AI可能会先确(què)定一个场景的(de)大致布局的框架(jià)，然后(hòu)在这个基础上慢(màn)慢添加其(qí)它物体(tǐ)或者(zhě)细(xì)节。在这个过程(chéng)中，AI根据(jù)prompt调整(zhěng)该部分的(de)组合(hé)，以生成相关图像。目前(qián)很多(duō)AI生成器靠的是(shì)所谓的扩散模型。任何人都可以(yǐ)输入简短(duǎn)的prompt，然后(hòu)免费得到一张足(zú)以以(yǐ)假(jiǎ)乱(luàn)真的图片。初次创建完还能进一步调教(jiào)，让照(zhào)片(piàn)变得更有说服力。底(dǐ)线在(zài)哪(nǎ)里？

技术说完了，事儿本(běn)身说完了，就(jiù)该(gāi)考虑一些技术之(zhī)外的(de)东西了。

从大往小说，技术应该被这(zhè)么应用(yòng)吗？人(rén)人都(dōu)可以免费生成图片拿来变现(xiàn)，今天是裸照(zhào)，明天又会是什么？毕(bì)竟，无所不能的(de)AI真的(de)无所不(bù)能(néng)，人们的想象力和鬼点(diǎn)子可是越来越多。而缺少相关法律(lǜ)法规约束(shù)的话，这种行为(wèi)只会越来越多，并且(qiě)难以控制(zhì)。Claudia的(de)管理者面对媒(méi)体(tǐ)的诘问，只要(yào)轻飘飘(piāo)的(de)说(shuō)上一句，我这是(shì)假的呀！就能逃脱任何指控(kòng)了。再进一步，Claudia这个账户折射(shè)出了女(nǚ)性所面临(lín)的(de)一部分社会(huì)问题。物化(huà)女性等词汇本身就(jiù)屡(lǚ)次出现在人们的讨论之中。小编认(rèn)为，这种生成(chéng)的裸(luǒ)照显然是对(duì)女(nǚ)性的(de)冒犯，更不用说拿来(lái)传(chuán)播(bō)得利了。相信AI的未来一定是(shì)利大于弊(bì)的，只不过在充满荆棘的道路上还(hái)是要谨(jǐn)慎(shèn)前(qián)行。

未经允许不得转载：橘子百科-橘子都知道 路由器有使用年限吗