02-嵌入式模型

嵌入式模型是通过一些向量来表示数据之间的相似性

表示方法

• 欧式距离：两个向量之间的距离表示（类似与两点之间直线最短）

  例子：

  • 害怕 的向量是 [0.6, 0.2, ....]
  • 担心 的向量是 [0.7, 0.2, ....]

  它们之间距离相差不大，所以意思相近

• 余弦相似度：两个向量之间的角度表示

  例子：

  • 围绕爱情的一篇短文
  • 爱情 这个词

  显然短文的距离是远远大于一个词的，但是它们之间的主题没变 所以它们之间的 夹角（余弦相似度） 是比较近的，意思也就比较近

  （一般都是用 “余弦相似度” 来表示相似度，而不是 “欧式距离”）

应用场景

• 语义搜索：

  • 概念：通过向量的相关性进行搜索
  • 解决问题：

    • 传统搜索相关性不足的情况

      比如要搜索“电脑如何修理”，可能就需要了解 电池/键盘等修理， 但是传统搜索可能就无法胜任这个使用场景

• 检索增强⽣成（RAG）

  这个是将 ⼤语⾔模型 与 嵌入式模型 结合起来

  “语义搜索” 只能是搜索出有关的文档，但是无法直接给予建议 但是与 LLM 结合后，就可以直接给出建议了

  嵌入式模型是 搜索， 大语言模型是 总结

• 异常检测：根据某个向量与大部分向量差异来判断是否异常

• 推荐系统：个人喜好可以由向量表示，然后就可以个性化推荐相近向量的商品