Goodfire、LLMの機械論的解釈性ツール「Silico」をリリース
Goodfireは、開発者が大規模言語モデル内部のニューロンをマッピング・調整できる機械論的解釈性ツール「Silico」をリリースした。同スタートアップは、内部パラメータを可視化することで、AI訓練を錬金術に近いものから従来の工学のようなものへと変えることを目指している。
San Francisco startup Goodfire released Silico, a mechanistic interpretability tool that allows researchers to inspect and modify internal model parameters during training. The tool maps neurons and pathways to help developers debug behaviors and steer outputs, moving AI development closer to traditional software engineering.