Interpretability & explainable AI
Në shqip: Kuptueshmëria e modeleve
ShpjegimiSQ
Pse vendosi modeli kështu? Për modele klasike, SHAP dhe LIME tregojnë cilat veçori ndikuan më shumë. Për LLM-të, „interpretueshmëria mekanike“ studion çfarë ndodh brenda neuroneve — fushë kërkimi shumë aktive.
EnglishEN
Why did the model decide that? For classic models, SHAP and LIME show which features mattered most. For LLMs, “mechanistic interpretability” studies what happens inside the neurons — a very active research area.
Si ta mendosh
Si t'i kërkosh mjekut të shpjegojë pse e vendosi atë diagnozë.
Lexoje në anglisht
Like asking a doctor to explain why they made that diagnosis.