官方论文代码放出,OpenAI是如何实现图像版GPT-3的?
OpenAI 放出 DALL-E 的部分论文与实现代码。
今年年初,OpenAI 图像版 GPT-3、120 亿参数的 DALL-E 刷屏官方社区,这个大型模型可以将以自然语言形式表达的大量概念转换为合适的图像,效果十分惊艳。
如输入「牛油果形状的椅子」,就可以获得绿油论文油、形态各异的牛油果椅子图像。
如果 GPT-3 一样,大家都在期待 OpenAI 放出 DALL-E 的官方论文与实现代码。
经过近两个月的等代码待,DALL-E 的论文和代码终于新鲜出炉!
不过此项目正在更新,截止发稿时 DALL-E 只开放了使用图像重建部分 d-VAE 训练的 CN放出N 编码器和解码器部分,而 Transformer 代码部分还没有公开。除此以外数据集也不能使用。而论文也是公布了 d-VAE 的论文,O。
项目地址:https://github.com/openai/DALL-E 论文地址:https://arxiv.org/peabs/2102.12092
只能期待后续 OpenAI 公开更多的技术细节。
DALL-E 部分代码已开源
这是为 DALL·E 所使用的 d-nAVAE 的官方 PyTorch 包。在运行 DALL-E/notebooks/usage.ipynb 程序之前,需要先安装软件包,代码如I是下:
pip install git+https://github.com/openai/DALL-E.git
解码器、编码器代码
d-VA如何E 论文
年初在论文还没有公开的情况下,就有人开始复现,他们复现的依据来自某博主制作的油管视频,在视频中,对 DALL·E 的原实现理结构进行了猜测。那么,现在论文已公开,是否颠覆了他的预想。
传统上,文本到图像的生成主要集中在在固定的训练数据集上找到更好的建模假图像设。这些假设可能涉及复杂的体系架构、辅助损失或辅助信息,例如在训练期间提供的对象部件标签或分割掩码。该研究提出了一种基于 t版Gransformer 的简单方法,将文本和图像 token 作为单个数据流进行自回归建模。在足够的数据和扩展的情况下,当以 zePTro-shot 方式评估时, 该研究提出的方法与以前的领域特定模型具有相当的竞争力。
相关文章
平台即服务(PaaS)有多种定义。Gartner 公司将PaaS定义为“应用基础架构(中间件)服务(包 括应用平台、集成、业务流程管理和数据服务)的广泛集合”。PaaS是一种抽象层,旨在帮助开发人员专2026-11-17
撰文 | 程书书 编辑 | 李信马 题图 | 豆包AI 在汽水音乐凭借“抖音式”交互与免费模式站稳脚跟后(详见《汽水音乐奇袭》),字节跳动并未停下在音乐赛道的布局。 2025年底,曾经沉寂的“番茄畅听2026-11-17
OpenAI在印度推出ChatGPT Go新订阅计划,月费仅 5 美元
近日,OpenAI 宣布推出新的 ChatGPT Go 订阅计划,该计划目前仅在部分地区上线,例如印度。新的计划标志着 OpenAI 在其 AI 模型系列中再次迈出了重要一步,用户现在可以以大约每月52026-11-17
云梦级2月25日云梦级消息,24日晚间,吉利控股旗下汉马科技发布公告称,公司董事周建群因病于2026年2月15日逝世,享年61岁。 据悉,周建群是吉利商用车板块核心奠基人,曾主导汉马科技新能源转型,在2026-11-17
云梦级11月5日云梦级消息,据 CNBC 报道, IBM 将在 2025 年第 4 季度进行新一轮裁员,预计波及员工数量,在全球员工总数的占比为“较低的个位数”(low single-digit pe2026-11-17
2007年,乔布斯从牛仔裤兜里掏出iPhone时,很多人没意识到,他改变的不仅是一部手机,而是整个手机产业的能力分工和技术重心。 在那之前,诺基亚和摩托罗拉掌控着从芯片到屏幕的垂直整合;在那之后,手机2026-11-17

最新评论