Goodfire, LLM 기계적 해석 가능성 도구 Silico 출시
Goodfire가 개발자들이 대규모 언어 모델 내부의 뉴런을 매핑하고 조정할 수 있게 해주는 기계적 해석 가능성(mechanistic interpretability) 도구 Silico를 출시했다. 이 스타트업은 내부 파라미터를 노출함으로써 AI 학습을 연금술이 아닌 전통적인 엔지니어링에 가깝게 만드는 것을 목표로 한다.
San Francisco startup Goodfire released Silico, a mechanistic interpretability tool that allows researchers to inspect and modify internal model parameters during training. The tool maps neurons and pathways to help developers debug behaviors and steer outputs, moving AI development closer to traditional software engineering.