Психоанализ свёрточных нейронных сетей. Часть 2.

Продолжаем интерпретировать работу нейронных сетей с помощью SHAP диаграмм. При таком подходе анализируются не те процессы, которые происходят на конкретном канале конкретного слоя, а значимость того или иного пикселя на исходной картинке.
С помощью SHAP диаграмм можно анализировать, какие пиксели исходного изображения привели к повышению вероятности данного класса, а какие - к ее уменьшению.

Ukrainian IT-company. Machine Learning | Data Science | Artificial Intelligence

#нейронныесети #neuralnetwork #искусственныйинтеллект #нейросети #ИИ #машинноеобучение #deeplearning #machinelearning
#artificialintelligence #qudata