До сих пор нейросети рассматривались нами лишь как инструмент предсказания, но не понимания. Действительно, классический нейросетевой подход - метод черного ящика - предполагает создание имитационной модели, без явной формулировки правил принятия решений нейросетью. Вернее, эти правила содержатся в весах обученной нейросети, но понять их, переформулировав на язык "если - то " не представлялось возможным. В этой лекции мы продемонстрируем методику, позволяющую строить подобные правила, объясняющие нейросетевые решения. Нейросети,