你的175分AI强度评分揭示了LLMs背后的数据真相
新工具“in the weights”衡量ai模型在不联网搜索的情况下对特定人物的回忆强度，评分范围在0到996之间。这揭示了哪些个人被编码在模型权重中，并强调了较小模型对高相关性训练数据的依赖。
Joey Flynn 和 Thomas Dimson ，两人都曾任职于 OpenAI ，发布了“in the weights”，这是一个搜索工具，可以查询多个大型语言模型（LLM），以检测特定人员是否存储在模型的权重中，而不是通过搜索检索。该工具聚合结果，在排行榜上生成“强度分数”，其中泰勒·斯威夫特（Taylor Swift）等名人排名接近 996，而普通记者的分数可能为 175。创建者注意到，Meta 的 Llama 等较小模型的容量约束更紧，这意味着它们只存储在训练过程中被认为高度相关的个体。这个实用工具提供了对基础模型训练数据中代表人员的透明度，并展示了不同模型架构之间的记忆能力差异。