Такая парадигма. Обучаем нейросеть распознавать что-то на изображениях. Разбиваем изображения на кусочки и кластеризуем по похожести. Смотрим, какие кластеры являются предикторами того, что нам надо распознать. Таким образом получаем частичную интерпретацию модели, можем и человека научить распознавать отдельные фичи. #ml #deep_learning

https://ai.googleblog.com/2023/03/learning-from-deep-learning-case-study.html?m=1