编(biān)辑【导读】生成式(shì)AI火(huǒ)了以后(hòu)，限制输(shū)出内(nèi)容(róng)的就只剩人们的想象(xiàng)力了。这(zhè)不，两个(gè)高中生用AI生成裸照，疯狂在道德(dé)的底线(xiàn)游走。

生成式AI爆火之后，人们发现(xiàn)，这(zhè)AI还(hái)真的什么都(dōu)能生成啊。

从ChatGPT生成语(yǔ)段和用户自如对话，到AI生成图像(xiàng)，再到(dào)搭载GPT-4的微(wēi)软全家桶连ppt都能一键生(shēng)成，好像没(méi)有什么东西是生(shēng)成式AI做不到的(de)了。

能是一方面(miàn)，怎(zěn)么(me)加以利用变现又(yòu)是另一码事(shì)了。

这不(bù)，国外(wài)几个不知天高地(dì)厚的大学(xué)生(shēng)，竟然用AI生成裸照在Reddit上(shàng)卖。

甚(shèn)至(zhì)还大赚了(le)一(yī)笔(bǐ)。

AI卖(mài)「黄」？

图(tú)片的这个姑娘叫Claudia，她有着乌黑的长发(fā)，甜美(měi)的笑容。在社交(jiāo)媒体上，她(tā)会update自(zì)己(jǐ)的心(xīn)情，觉得(dé)自己美美哒。

然而在Reddit上，只要你(nǐ)跟她私(sī)聊(liáo)，她就卖你裸照。不得不说，在Reddit上她还挺火。可(kě)惜，Claudia是个假的(de)。社交媒体上(shàng)的所有照(zhào)片，包括上面(miàn)这张，全都是用AI生(shēng)成(chéng)的。据两位合成媒体领域的(de)研(yán)究人员说(shuō)，这一组Claudia的照片都是冲(chōng)着(zhe)坑(kēng)蒙拐骗去的。

总有人看不出这(zhè)是AI，然(rán)后(hòu)为此买单。最近(jìn)，像Midjourney和(hé)Stable Diffusion这种(zhǒng)能生成图片(piàn)的AI发展非常快，他(tā)们(men)所展现出的创造性(xìng)备受瞩目。但(dàn)在Claudia之前(qián)，绘图AI一(yī)般(bān)都是靠生(shēng)成一(yī)些逼真的艺术作品或者美丽的画作(zuò)夺人眼球。在(zài)Claudia之(zhī)后，人们认识到用(yòng)AI生(shēng)成假人的图(tú)片的(de)功(gōng)能(néng)，还有(yǒu)这个让(ràng)人意想不到的变现手段。

其实(shí)很(hěn)多年以来，一部分新技术的发展都(dōu)跟(gēn)色情行业有那么一(yī)点关系，AI图像生成看来也没能(néng)免俗(sú)。目前，Reddit上(shàng)有好几千个(gè)账户都在搞AI图像生(shēng)成——而且大部(bù)分生成的都(dōu)是女性(xìng)。带来(lái)的(de)影响就是，改变了人们(men)对(duì)于模特，和(hé)一(yī)部分演(yǎn)员的需求(qiú)，同时加深了人们对于物化女性这个议题的担忧。

有(yǒu)人匿名表示，「反(fǎn)正也遇不到真人(rén)，就算不(bù)是AI生成的也遇不(bù)到真人，那她究竟是真(zhēn)是(shì)假又怎么样(yàng)呢(ne)？」Claudia的账户并没有(yǒu)做出(chū)回应。但是有两(liǎng)位大学生(shēng)表(biǎo)示(shì)，自己是(shì)该账户的管理者。在接(jiē)受「滚石」杂(zá)志采访时表(biǎo)示，他们从Claudia这个账户挣了100美元。研(yán)究人员继续出发，根据一些AI图像生成(chéng)器留(liú)下的蛛丝马迹(jì)，确(què)定(dìng)了几个女性用(yòng)户的在线资料。他们判断，这些头像是AI生成的。

就像(xiàng)是Claudia的账户一样，这些账户也(yě)在Instagram、Reddit、推特和OnlyFans等论坛上分享女性(xìng)的裸(luǒ)照，并标明付费以(yǐ)解锁更多图片。研究人员联系了这些账(zhàng)户后这些(xiē)账户没(méi)有对该问(wèn)题做出任(rèn)何相关回应。由(yóu)于(yú)大(dà)部分(fēn)AI图像(xiàng)生成(chéng)的时候并没(méi)有任何水(shuǐ)印，所以普通用户无法进行辨别。所以(yǐ)，有大(dà)量的用(yòng)户(hù)被这些免(miǎn)费(fèi)图片吸引(yǐn)，给这些账户留言。因为，他们相信(xìn)这(zhè)些照片是(shì)真的（也许(xǔ)是因为(wèi)不(bù)在乎）。

为(wèi)啥这么(me)逼真？

AI生成图像(xiàng)的原理其实并不复杂(zá)。

在整个过程中(zhōng)，AI会先生成一(yī)个较低分辨率的图像，然后(hòu)慢慢增加细节和复杂度。神经网络有很多层，每一层神经网络负责处理不同级别的特(tè)征。从简单的边缘和纹理，再(zài)到(dào)复杂的场景(jǐng)等等。各层神经网络之间互相连接(jiē)，这样AI就可以将不(bù)同(tóng)层次上的(de)特征(zhēng)进(jìn)行(xíng)组合。比如，AI可能会先确定一个场景的大致布(bù)局的框(kuāng)架(jià)，然后在这(zhè)个基(jī)础上(shàng)慢慢添加其(qí)它物体或者细(xì)节。在这个(gè)过程中(zhōng)，AI根(gēn)据prompt调整(zhěng)该部分的组合，以(yǐ)生成(chéng)相关图像。目前很(hěn)多AI生成器靠的是所谓(wèi)的扩(kuò)散模型。任何(hé)人都可以(yǐ)输入简短(duǎn)的prompt，然(rán)后免(miǎn)费得到一张足以以假(jiǎ)乱(luàn)真的图片。初次(cì)创建完还能进一步调教，让照片变得更(gèng)有说服力。底线在哪里？

技术说完了，事儿本身说完了，就该考虑一些技术(shù)之外的东西了。

从(cóng)大往(wǎng)小说，技术应该被这么应用吗？人人都(dōu)可以(yǐ)免费(fèi)生成图片拿(ná)来(lái)变(biàn)现，今天(tiān)是裸照，明天又会是(shì)什么？毕竟，无(wú)所不(bù)能的AI真的无所不能，人们(men)的想象力(lì)和(hé)鬼点(diǎn)子可是越来越(yuè)多(duō)。而缺少(shǎo)相(xiāng)关(guān)法律法(fǎ)规约束的话(huà)，这种行(xíng)为只会越来(张镇风现在干嘛呢张镇风现状简介，张镇风现在在干嘛lái)越多，并且难以控制。Claudia的管理者面(miàn)对媒体的诘问(wèn)，只要轻飘飘的说(shuō)上一句，我这是假的呀！就(jiù)能逃脱任(rèn)何指控了。再进一步，Claudia这个账户折(zhé)射(shè)出(chū)了女性所(suǒ)面(miàn)临的一部分社(shè)会问(wèn)题。物(wù)化女性等词汇本(běn)身(shēn)就(jiù)屡次出现(xiàn)在人们的讨论(lùn)之中。小(xiǎo)编认为，这(zhè)种生成的裸(luǒ)照(zhào)显然是对女性的(de)冒犯(fàn)，更不用说拿来传播得利了。相信AI的未来一(张镇风现在干嘛呢张镇风现状简介，张镇风现在在干嘛yī)定是(shì)利大于弊(bì)的，只不过在充满荆棘的道路上还是(shì)要谨慎前行。

未经允许不得转载：橘子百科-橘子都知道 张镇风现在干嘛呢张镇风现状简介，张镇风现在在干嘛