你知道《太空歌剧院》吗？
它是一幅AI作的画，并拿到了艺术比赛的一等奖。在2022年，AI作画已经变得如此简单，你只要会打字就行。在一片高斯噪声中逐渐显露出精彩绝伦的颜色和图案，AI是怎么画画的？为什么能画得这么好？会不会取代人类设计师？
更令人费解的在于，AI有没有自己的逻辑思辨能力？
其实，我们还处在人工智能的早期，AI对真正的逻辑和某个垂直领域的理解还不深，但不断强化它的逻辑思维能力一定会是接下来研发的重点。
书接上回，这次真格投资副总裁林惠文将带领我们，从上次ChatGPT的AI文字跳到AI图片，继续探索AI世界。从AIGC图片背后的模型，到模型之间的关系以及发展历程。除此之外，我们还准备了对AI领域相关问题的解惑和一些好用的工具推荐，请一定不要错过～
非常荣幸今天能跟大家分享一些AIGC图片相关的梳理，在漫漫的熊市之中，近期我们看到了很多惊人的生成效果。
首先我们来看一下AI生成的图片。
这是最近非常火的AI生成图片平台Midjourney产生的一些图片效果，可以看到非常真实，也有很强的创意效果。它是如何做到的？
通俗易懂地来讲有三个步骤。首先，把人类的文字转换成计算机能够理解的表达，然后把计算机能理解的文本表达转换成计算机能理解的视觉描述，再接下来，把计算机能理解的视觉描述生成人类能够看懂的图片。
0xScope：2022年3月31日起至今，一币安存款地址从Huobi收到近7亿枚稳定币:1月13日消息，据0xScope Protocol监测，2022年3月31日起至今，0x66f7开头的币安存款地址从Huobi收到总计约6.89亿枚USDT和USDC。目前Huobi以太坊上USDT与USDC的持有量约为5.55亿枚。[2023/1/13 11:10:21]
以DALLE2为例，它训练了3个模型来做这件事情。接下来，我会分别讲述。
CLIP模型
第一个模型是CLIP模型，负责将文本和视觉图像联系起来。
过去的很多算法就像是拿1万张人类已经标注了类别的照片，让计算机去寻找不同类别照片的差异化特征。最大的缺点是，它无法标注世间万物，只能分类有限的集合，同时人力标注会成为学习的上限。
CLIP模型带来的新思路是什么？它很像是真实生活中教小朋友认识物体。看到一个东西就直接告诉小朋友，这是一只游泳的鸭子，而不是一次性拿20张鸭子的图片告诉他，这是鸭子，你记住它的所有特征。CLIP模型的算法实现了这样一个特点，只要我们有充足的算力，就能学会世间的万物。
CLIP模型的数据集从哪来？它来自于互联网上图文的匹配对，总共收集了4亿张的图文匹配对，再经过一个图文编码器，把人类能看懂的文字和图片转换成计算机能懂的数据结构。
CLIP模型用到了两个编码器，视觉编码器叫VisionTransformer，文字编码器叫Transformer。下图是VisionTransformer编码器产生的效果图，可以看到两张图片里背景部分的颜色被大幅弱化，强调了网球和黑狗的轮廓。这就是优秀的编码器能实现的效果：用人类的视角找重点，进行数据降维。
报告：NFT在2021年经历了快速增长后到2022年为止已经趋于平稳:金色财经报道，ResearchAndMarkets发布NFT全球市场报告。该报告以2021年为基准年，提供了2022-2027年预测期的估计市场数据。报告显示，
NFT 在 2021 年经历了快速增长，但这种增长并不稳定，到 2022 年为止已经趋于平稳。包括麦当劳和可口可乐以及 Gucci 和 Ray-Ban 在内的公司开始提供 NFT。正在发生革命性变化的游戏行业、对数字艺术品的需求缓慢但稳定的增长以及名人在市场上日益增长的影响力是 NFT 接受度的主要驱动力。
此外，NFT 供应商将受益于 NFT 在供应链管理、零售和时尚领域不断增长的应用，以及行业巨头为实现 Metaverse 所做的尝试以及 NFT 的个性化。因此，在预测期内，元宇宙预计将成为整个 NFT 市场的新兴机会。NFT 交易与昂贵的Gas费有关，这一直阻碍着市场增长。此外，价格波动、负面环境影响和欺诈问题也是预测期内抑制市场增长的因素之一。[2022/12/8 21:30:08]
CLIP模型做的事是什么？把来自互联网的4亿张图片和4亿条文本进行编码，并两两配对，形成一个4亿*4亿的矩阵。
CLIP模型的训练目标是什么？通过各种各样的复杂计算，让原本匹配的图片和文本产生正相关。将苹果的照片和苹果的文字进行匹配，而不是摩托车或其他。
预计2021年WTI原油价格为61.85美元/桶:据EIA短期能源展望报告，2021年全球原油需求增速预期为541万桶/日，此前预计为542万桶/日。预计2021年WTI原油价格为61.85美元/桶，此前预期为58.91美元/桶；预计2021年布伦特原油价格为65.19美元/桶，此前预期为62.26美元/桶。 （金十）[2021/6/9 23:22:43]
CLIP模型实现的功能是什么？给定任何一个文本，能返回相关性最高的图片；给定任何一张图片，能返回相关性最高的文本描述。实现海量的图像和文字特征的mapping。
GLIDE模型
有了mapping以后，接下来重要的是如何从视觉的描述中产生图像，这是GLIDE扩散模型。
它就像是教小朋友学画画，先给小朋友看一张简笔画，逐渐把它擦掉，让小朋友在大人的引导之下，试着从白纸开始恢复这张简笔画。
从计算机的视角来看，擦除的过程就是给图片不断增加噪声的过程，这种噪声是一种正态分布的噪声，叫高斯噪声，直到最后变成一张纯噪声的图片。恢复的过程就是通过概率除去噪声的过程，这中间往往会加一些指引，叫Guidance，以确保恢复的过程朝着对的方向。
左图为增加噪声的过程，右图为除去噪声的过程
GLIDE扩散模型带来最大的创新就是在训练的过程中融入了文本的信息。在CLIP模型的基础上，在恢复的过程中嵌入文本的信息，这就导致了难度的快速叠加，因为它既要学会恢复的算法，又需要学会识别的算法。然而，在恢复的过程中，它并没有把知识完全融入其中，如何才能把知识彻底地融入到图像生成里？
“Kleiman诉CSW一案”被推迟至2021年4月5日开庭审理:“Kleiman诉CSW一案”已经被推迟到2021年4月5日开庭审理。一份法庭文件显示，目前提出异议的审前截止日期为2021年3月16日。除了推迟审理之外，法院还就任何一方在审判期间能说什么、不能说什么做出了几项关键决定。
此前消息，CSW已经提出一项议案，要求阻止比特币安全专家Andreas Antonopoulos宣读145条声称CSW犯有欺诈行为的消息的内容，这些消息由区块链地址签署。这些存在争议的消息是由CSW声称拥有的区块链地址签名。这意味着CSW并不持有这些地址的密钥。然而法院裁定，这些特定信息太具偏见，陪审团无法听取。这一决定是在CSW和Kleiman家族试图阻止对方的专家在审判期间发言时做出的。（Decrypt）[2020/11/19 21:24:03]
GLIDE模型的抽象理解，就像是爸爸教小朋友骑车，目标是希望在有爸爸扶和没有爸爸扶的时候，小朋友都能骑出同样的曲线。这往往通过一种中间形态来实现，从一直扶到偶尔扶，偶尔撒手，最终的训练目标就是不断在这种状态里达成。
GLIDE扩散模型的目标也是如此，在它的原理中，爸爸扶着小朋友就是分类器，能帮助分类或目标识别，撒手就意味着无分类器指引，有时会将一些文本的信息替换成空的字符串，随机替换掉一些信息。当有分类器产生的曲线和没有分类器指引产生的曲线一致时，整个文本的信息就融入到了生成过程中。
有了GLIDE扩散模型以后，还可以制定不同的引导目标，因此会产生不同的效果，如果你想生成与某张图片一样效果的图片，你可以输入这张图片，接着就会得到一张类似风格的图片。这就像是一个小朋友的爸爸告诉他，自行车的前轮其实是个装饰品，他最终在不断的强调之下，就会学会这样骑车的方式。
Token Daily：比特币价格到2021年中期才会发生戏剧性变化:5月4日消息，针对减半，Token Daily发表文章称，由于矿工的重新引进和挖矿难度的调整，在减半后的几个月之后，比特币的价格性能会变得越来越好。文中称，比特币的价格要到2021年中期才会发生戏剧性的变化。根据前两次减半可以观察到，价格在减半后6个月出现显著变化，而最大的变化是在减半后12个月。因此，将比特币保留到2021年5月将会获得最高的投资回报率（Ambcrypto）[2020/5/4]
PRIOR模型
当CLIP模型将文本和视觉相连，GLIDE模型通过概率恢复一张随机的模糊照片，并把文本信息融入其中，我们还缺少了这两者之间的联结，如何把文本描述映射到视觉描述中，这就是PRIOR模型的核心。
有了CLIP模型，虽然能够实现文本和视觉之间相关性的描述，但还缺少一个转换器，那就是面对一个新的描述，如何产生一张新的图片。就像你教会了小朋友画帽子，也教会了画兔子，现在如何让他画一张戴帽子的兔子。PRIOR模型其实是在CLIP模型之后产生一个新的效果，在CLIP模型中用到的文本和图片编码器，给编码后的东西再增加一个特征，这就使得文本和图片的信息都融合在同个维度，便于我们去操作。
三个模型的关系
CLIP模型理解了图片与文字的关系，PRIOR模型就是在理解图片与文字的关系之上，从文字中产生一个脑海中的构图，GLIDE扩散模型就是要把脑海中的构图画出来，画出人类能懂的视觉图片。
我们再从下图论文的原理来理解一下。图中有一条虚线，虚线的上方是预训练的过程。左边的TextEncoder，就是之前提到的文字转换器Transformer，它把一段文字转换成计算机能理解的表达。右边的ImageEncoder，也就是视觉转换器VisionTransformer，把人类理解的视觉图片转换成计算机的数据结构。
在经过大量的训练之后，这两者之间产生了具有相关性的连接，也就是文字和图片之间的关系产生了非常强的理解。
虚线之下是生成的过程，把文本放进PRIOR模型里面，从这段文本中生成计算机能理解的视觉表达结构，再用GLIDE模型生成人类能看懂的图片。虽然上下两只小狗的图片看起来不一样，但它们本质上包含了同样的文本语义，这样就实现了任何一段文本都能生成出一张人类能看懂的图片。
发展历程
整个梦开始的地方，始于2017年Google发布的一篇论文《Attentionisallyouneed》。它让算法学会了人类的注意力机制，就是当我们去看一张图片时，会看到重点，同时忽略背景的信息。
这篇论文发表之后，带来一个NLP的模型，叫Transformer，一经发布便快速屠榜，接着很快有了BERT模型，有了OpenAI的GPT-3模型。在视觉领域，有DERT模型，iGPT模型，以及上面提到的VisionTransformer。
Transformer模型的重要性在于，它是我们刚才提到的三个模型的底座，学会找出图片和文字的重点，才能够搭建CLIP模型，才可能有之上的PRIOR和GLIDE扩散模型。
梦想的实现还有另一半，图像生成。
从2005年开始的求解特定概率密度函数，通俗理解就是通过最快的方法去估算正态分布，再到2008年的去噪自编码器的研发，加入高斯噪声，一种正态分布的噪声，再将它去除，我们用到的很多拍照中的去噪、降噪功能就是从这里来的。到了2011年，有人尝试将这两种算法结合在一起，2015年，开始尝试用这种思想还原照片。但这时候还原照片的质量还不是很高。
时间拨转到2019年，中国的宋飏博士把朗之万动力学引入到数据分布的估算中，产生了非常好的效果。2020年，Google发布名叫DDPM的论文，这篇论文核心就是结合朗之万动力学和扩散模型，产生了非常高的图片生成质量。
2014年引起轩然大波的GANnetwork对抗生成网络，已经能生成出效果不错的图片，但它的训练难度很高，扩散模型降低了图像生成模型的训练难度，还能生成比GAN更多元的图像。
在梦想实现的2021和2022年，OpenAI和Google都开始尝试把文本信息加入到扩散生成的过程中，产生了今天的GLIDE模型。OpenAI在思想上的突破，用Transformer去海量地理解图片和文本，产生了CLIP模型，再用扩散模型在图像生成中融入海量的图文信息，优质的AIGC图片终于诞生。
接下来，我们将围绕一些问题进行讨论。
1、从产品化、商业化的角度出发思考，目前AIGC的技术层面的发展会产生影响？
有两个维度。第一个维度是在海量数据中寻找我们最想要的内容，第二个维度是在海量数据中得出新的内容，反向给予我们创造的灵感。
从AI本身的能力再进行泛化的话，一方面很多现有产品的使用体验能得到巨大的提升，例如在笔记类的软件中加入AI后，在写作过程中能得到更好的体验；另一方面，未来创意不强，生成能力较弱的人可能会被AI替代。
2、回到基本逻辑，我想确认下自己的理解是否正确：相较于Transformer，ChatGPT并不是在AI领域出现了一个颠覆性的技术创新，而只是在一个模式上加了人类的feedback，设置了不断迭代的参数，它自己越搞越聪明了。
过去的所有模型的进化，其实围绕两个方向在进化。第一个是DNA，第二个是方法论。DNA很像真实世界中材料的研发，方法论更像是真实世界中材料的使用。
Transformer是DNA的进化，是更核心的突破。ChatGPT是方法论，但它就更简单了吗？并不是的，它在探索的过程中经历了很长的时间，同时要满足很多先决条件，这个方法论才能得以运用。不论方法论突破还是DNA突破，都很有意义。
3、未来的生意模式会怎么样？会不会更集中？围绕这样ChatGPT的模型，它会产生哪些创业方向？
可能有两种商业模式，一种是ToB的，就跟阿里云一样，另外一种就是让开发者在这种大模型上去ToC。不论是DNA还是在方法论上的突破，它都可能让一个企业产生垄断，产生巨头效应。
ChatGPT和用户不断互动，会得到源源不断的反馈数据，数据也是一种资产，一种生产要素。这种生产要素产生的产品会是人类更高频使用的东西，它的频率越高，这种生产要素就越来越重要，反馈能够创造的要素提升就越来越重要，同时带来的经济价值就越来越大。
4、会不会有规模效应或双边网络效应？
我觉得背后既有这种网络效应，又有一些规模效应。如果设想一下，第一个研发出来的这种中文大模型，它会快速地获取市场上有限量的开发者，开发者在用它的产品去面向ToC去获取C端用户，它的数据会源源不断反馈回来，去优化它的效果，其实就会产生更强的垄断效应。
5、从投资的角度，在AIGC，我们应该投什么样的团队？
我觉得传奇的团队是有创造DNA能力的团队，黄金的团队是有能力把应用层和AI完美结合的能力，白银的团队就是打造AI领域的基础设施的团队。
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。