Обсуждение:Explainable AI

Материал из MachineLearning.

Как написана эта статья

Черновик подготовлен с помощью большой языковой модели (Claude Opus 4.8, Anthropic). Все ссылки проверены вручную по arXiv, Nature Machine Intelligence и обзорам; формулы, факты и вики-разметка вычитаны. Отдельно отмечу: на этом вики не работает рендеринг тегов math, поэтому формулы пришлось записать обычным вики-текстом (курсив для переменных, sub и sup для индексов и степеней, юникод-символы для сумм и множеств). Если у вас теги math тоже показываются как сырой текст — не мучайтесь с LaTeX, сразу пишите формулы текстом. Ниже дословный запрос к модели.

Запрос:

Ты пишешь статью для вики machinelearning.ru. Это живой справочник по машинному обучению для смешанной аудитории: студенты курса и практикующие специалисты. Тема: Explainable AI (объяснимый искусственный интеллект). Формат: разметка MediaWiki, русский язык.

Сделай так, чтобы статья прошла по пяти критериям оценки нашего курса: 1. Эксперт должен узнать неочевидное и дочитать до конца. Построй текст вокруг одного

  напряжения: объяснять чёрный ящик постфактум против того, чтобы строить
  интерпретируемую модель сразу (позиция Рудин). Кульминация — мысль, что убедительное
  объяснение не обязано быть достоверным.

2. Польза и новичку, и профессионалу. Новичку: чёткое различение интерпретируемости и

  объяснимости, интуиция за LIME и SHAP. Профессионалу: настоящие ссылки (Ribeiro 2016,
  Lundberg-Lee 2017, Shapley 1953, Rudin 2019 и 2022, Grad-CAM) и точные формулы.
  Ничего не выдумывай; сомневаешься в источнике - не приводи.

3. Формулы приводи именно формулами, а не словами: задачу LIME и значение Шепли для SHAP.

  Записывай их обычным вики-текстом (курсив для переменных, теги sub и sup, юникод для
  знаков суммы и множеств), потому что рендеринг тегов math на этом вики отключён.

4. Связность: термины как внутренние ссылки в двойных квадратных скобках; в разделе

  См. также не сыпь ссылками на несуществующие статьи, оставь только базовые и
  статьи нашего кластера. Добавь Примечания, Ссылки и категории.

5. Не оставляй следов LLM: живой экспертный язык, без канцелярита, без списков ради

  списков, без важно отметить и в заключение. Допускай авторскую оценку там, где в
  науке нет консенсуса.

6. Сноски определяй прямо в тексте в тегах ref, внизу только тег references.

Замечания и правки приветствуются.