← Вернуться в неделю 8
Неделя 8 · AI рядом с аналитиком

AI помогает.
Решает аналитик.

На этой неделе мы не меняли профессию аналитика. Мы добавили нового помощника: он умеет объяснять, предлагать, писать код и переводить между инструментами — но не получает право отменить проверку.

AIORANGEPY
🎯 Задача
✍️ Prompt
🤖 AI
🍊 Orange
🐍 Python
🔎 Проверка

AI объясняет

Помогает понять данные, метрики, workflow и следующий шаг.

AI строит

Может создать HTML, Python-проект, diagram, checklist или App.

Человек проверяет

Задача, смысл, ограничения, интерпретация и финальное решение остаются у аналитика.

AI: «Я всё сделал». Аналитик: «Прекрасно. Теперь начинается часть “СТОП. ПРОВЕРЯЕМ!”». 🤖🔎

Карта недели: TASK → PROMPT → AI → ORANGE → PYTHON → APP → CHECK.

Лист 1 · AI-помощник
Prompt design

Хороший prompt —
это хорошая постановка задачи

Магических слов нет. Есть ясность: что мы анализируем, зачем, что именно просим сделать, какие границы нельзя переходить и в каком виде нужен результат.

КОНТЕКСТЦЕЛЬЗАДАЧАОГРАНИЧЕНИЯФОРМАТменьше задано → больше решает AI сам

P1 · свободный

«Проанализируй и предложи хорошую модель». Быстро и широко, но AI получает много свободы принимать промежуточные решения.

P2 · структурированный

Контекст → цель → задача → ограничения → формат. Высокий контроль над этапом работы.

P3 · диалог

Explore → Plan → Build → Explain → Modify. Больше итераций, зато легче вовремя остановить неверный поворот.

Очень полезная фраза: «Если чего-то нельзя установить из данных — прямо так и скажи». Она заставляет отделять evidence от предположений.
Помните: длинный prompt не обязательно лучше короткого. Он просто оставляет AI меньше свободы.
Плохой prompt похож на заказ в кафе: «Принесите что-нибудь хорошее». Потом не жалуйтесь, что AI выбрал суп, threshold и Random Forest сам. 😅

Совет от Игоря: сначала решите, какие решения вы хотите оставить человеку.

Лист 2 · prompts
Несколько AI · Orange · Python

Красиво ≠ проверено.
Перевод ≠ копирование.

Один и тот же CSV и prompt дали разные AI-отчёты. Потом AI использовали рядом с Orange и как переводчика уже существующей аналитики в Python и App.

AI A

Хорошо сжимал: ясный EDA, аккуратная структура, хороший баланс краткости и глубины.

AI B

Глубже проверял файл и лучше отделял «видно в CSV» от «мы могли бы предположить».

AI C

Эффектный HTML, но перепутал 645 пропущенных ячеек и 582 строки с пропусками и добавлял сведения вне CSV.

645 ≠ 582. 645 — количество пропущенных ячеек по столбцам. 582 — число уникальных строк, где есть хотя бы один пропуск.
📄 CSV / screenshot
🤖 AI
🍊 widgets + связи
🧠 объяснение
🐍 Python
📱 App

AI рядом с Orange

Навигатор · преподаватель · архитектор workflow · оформитель · рецензент · помощник по изменениям.

СПРОСИТЬ → ПОЛУЧИТЬ → ПРОВЕРИТЬ → ИСПОЛЬЗОВАТЬ.

Orange → Python

Сохраняем аналитический смысл, а не кнопки интерфейса. Поэтому технически необходимый SimpleImputer может появиться в Python, даже если отдельный Impute widget не был виден на screenshot.

Самый опасный баг иногда выглядит как профессиональный dashboard с красивой тенью. ✨

Правило: попросите AI отдельно написать «что я увидел» и «что я добавил как решение».

Лист 3 · проверяем AI
Критическое мышление и вероятности

«80% accurate» —
80% чего?

История Эйба показывает типичную ловушку: вероятность положительного теста при болезни — не то же самое, что вероятность болезни при положительном тесте.

P(+ | болезнь)P(болезнь | +)условие поменяли → вопрос поменялся

10 000 похожих детей

Около 100 имеют болезнь. Из них положительный тест получат примерно 80.

Из 9900 здоровых положительный результат получат примерно 4950.

Что среди положительных?

Всего positive: 80 + 4950 = 5030.

Действительно больны 80.

80 / 5030 ≈ 1.6%.

RecallP(predicted 1 | actual 1)
Среди настоящих positives сколько нашли?
PrecisionP(actual 1 | predicted 1)
Среди predicted positives сколько настоящих?
Положительный «80%-й» тест не означает 80% вероятность болезни. Число бессмысленно без вопроса: какая именно условная вероятность?
Процент без условия — как адрес «дом 80». Красиво, конкретно… только непонятно, на какой улице. 🏠

Совет от Игоря: увидели процент — спросите «процент чего, при каком условии?»

Лист 4 · 80% чего?
Cross-validation в Orange

Один экзамен может повезти.
Сделаем несколько честных.

Один train/test split может быть честным, но шумным. K-fold cross-validation систематически даёт каждой строке один раз побыть в test и несколько раз — в train.

K−1 folds
обучение
LEARNER
временно обучаем Model
1 fold
невидимый test

10-fold

10 раундов. Каждый fold один раз становится test. Каждая строка получает out-of-fold prediction от модели, которая на ней не обучалась.

Learner ≠ Model

Learner — рецепт обучения. Test & Score обучает временные модели внутри folds. Model — уже обученный объект.

Stratified

Старается сохранить похожую долю классов в каждом fold — полезно при редком положительном классе.

Контрольный факт: 10 folds + один Learner Logistic Regression → Test & Score временно обучит 10 Logistic Regression моделей для оценки.
Leakage: imputation, scaling и feature selection нельзя обучать на всех данных до CV. Всё, что «учится» по данным, fit-ится только на training fold.
Cross-validation — это не десять финальных моделей. Это один ученик, которому устроили десять честных экзаменов. 📚

И ещё: CV не отменяет untouched final test и не лечит неправильную схему разбиения.

Лист 5 · cross-validation
Финальная карта недели 8 · СТОП, ПРОВЕРЯЕМ!

AI сделал результат.
Теперь четыре вопроса аналитика.

ДАННЫЕ
тот ли файл · target · пропуски · факты
ЛОГИКА
ту ли задачу решаем · не сменился ли смысл
МЕТРИКИ + СМЫСЛ
то ли число · честно ли получено · объяснимо ли

1. AI сделал красивый HTML. Значит анализ правильный?

Нет. Оформление ничего не доказывает. Проверяем факты, расчёты, границы данных и логику.

2. Второй AI проверил первого. Теперь можно не смотреть?

Нет. Второй AI — полезный рецензент, но не последняя инстанция. Финальное решение остаётся у человека.

3. Accuracy = 85%. Этого достаточно?

Не обязательно. Нужны вопрос задачи, нужный класс, Precision/Recall и честная схема получения predictions.

4. 10-fold CV всегда правильнее любого split?

Нет. Способ splitting должен соответствовать будущему использованию: time series, группы и зависимые наблюдения требуют другой схемы.
1. TASKСформулируйте задачу.
2. PROMPTДайте контекст и границы.
3. AIПусть объясняет и строит.
4. ORANGE / PYTHONСохраните аналитический смысл.
5. METRICSПоймите, что означает число.
6. CHECKДанные · логика · метрики · здравый смысл.
ЧЕМ БОЛЬШЕ УМЕЕТ AI → ТЕМ ВАЖНЕЕ УМЕТЬ ПОСТАВИТЬ ЗАДАЧУ И ПРОВЕРИТЬ РЕЗУЛЬТАТ
Потомкам будущего: кнопки, модели и тарифы изменятся. Вопрос «а это вообще имеет смысл?» подозрительно долговечен. 😎