CLIP图文对比预训练
CLIP(Contrastive Language-Image Pretraining) CLIP 由 OpenAI 开发,是一个 多模态(文本 + 图像)预训练模型,可以理解图像和文本之间的关联。它的核心思想是 通过对比学习(Contrastive Learning) 让模型学习 “文本 - 图像” 之间的匹配关系。 ...
CLIP(Contrastive Language-Image Pretraining) CLIP 由 OpenAI 开发,是一个 多模态(文本 + 图像)预训练模型,可以理解图像和文本之间的关联。它的核心思想是 通过对比学习(Contrastive Learning) 让模型学习 “文本 - 图像” 之间的匹配关系。 ...
人的“交流”基于语义场而不是单纯的符号,这一观点强调了意义在交流中的核心作用,而不仅仅是语言、文字等符号本身。以下是对这一理论的详细解释: 1. 什么是语义场? 定义:语义场指的是一组意义相互关联、形成特定语境或背景的概念网络。它是超越单个符号、词语或句子的,强调意义的整体性和动态性。 举例:在“家庭”这个语义场中,父母、孩子、爱、责任、争吵等概念可能相互关联。讨论“家庭”时,我们并不局限于某个具体的词,而是激活了这一组有关联的意义网络。 本质:语义场是交流时人们共同认知的语义背景,它为符号(语言、文字、手势等)的使用赋予上下文意义。 2. 符号的局限性 符号本身是固定的、有限的,而语义场则是动态且高度依赖情境的: ...
VAE 原理 似然生成模型:给定一个数据集 $x_D$,训练使得模型最大化似然 $p_\phi(x_D)$。 1. ELBO 的定义和公式 VAE 的目标是对数据 $x$ 的分布 $p(x)$ 进行建模,但直接优化 $p(x)$ 通常不可行。通过引入潜变量 $z$,对对数边际似然 $\log p(x)$ 进行变分下界(ELBO)的近似: ...