Ответственное тотальное использование ИИ

Звучит провокационно: 100% результатов работы должны проходить через ИИ. Но это не про слепое доверие машине — это про кооперацию, в которой у человека остаётся то, что нельзя делегировать: ответственность.

Зачем вообще «тотально»

Если не пробовать делать через ИИ всё, мы просто не узнаем, что ИИ уже давно закрывает нашу рутину. Граница возможного сдвигается быстрее, чем успевает обновиться наше представление о ней.

Отсюда рабочая привычка — постоянный вопрос к себе: а как это сделать с ИИ? И вопрос руководителя к сотруднику: ты прогонял это через ИИ? С этих двух вопросов начинается трансформация — раньше, чем с любой платформы и любого бюджета.

Три пути, и все три легальны

Принцип не требует, чтобы агент делал всё сам. Он требует, чтобы значимый результат прошёл через ИИ-контур хотя бы одним из трёх способов:

• Автоматизируй через ИИ и проверь результат как человек. Способ проверки не важен — важна ответственность.
• Делай вместе с агентом итеративно, когда задача плохо формализуется с первого раза.
• Сделай руками, но дай ИИ проверить — и учти результат проверки.

Третий путь чаще всего недооценивают, а он самый дешёвый на старте: ничего не меняя в своей работе, вы добавляете к ней ещё одного внимательного читателя.

Почему это работает

ИИ — очень производительный делатель и проверяльщик. Ошибаются все: и люди, и модели. Но стоимость дополнительной проверки через ИИ несопоставима со стоимостью проверки человеком, а значит проверять можно всё, а не только то, на что хватает рук.

Показательно, что даже врачи выигрывают от ИИ в диагностике — хотя работать с пациентом без человека невозможно. Условия всего два: люди умеют работать с ИИ и имеют к нему доступ с нужными данными. О данных — следующий принцип.

Человека заменит не ИИ, а человек с ИИ.

Случай из практики

ИТ-архитектор нашёл две ошибки в архитектуре приложения, сгенерированной ИИ. Документ был сложный, на десять страниц.

Разбор показал: первая ошибка была допущена человеком при переносе из документа — то есть не ИИ. Вторая ошибкой не была вовсе: архитектор смотрел не в ту инструкцию, на что ИИ ему быстро и указал.

Но ключевое здесь другое. Архитектуру проверял человек. Именно это делает результат пригодным к использованию — а не то, кто именно его сгенерировал.

Что это значит на практике

Человек задаёт намерение, ограничения и критерии приёмки. Агент выполняет и предлагает варианты. Ответственность не делегируется вместе с задачей.

Практический акцент: ответственность должна быть видна в артефактах работы — кто принял решение, по каким критериям и где зафиксирован результат проверки. Если этого не видно, ответственность размывается ровно тогда, когда она нужнее всего.

Артефакты: явный владелец решения, критерии приёмки, журнал ключевых проверок и решений.

Показатели: доля задач, закрытых агентами end-to-end; время от намерения до приёмки; доля изменений с явным владельцем.

Анти-паттерны: «агент виноват»; формальный human-in-the-loop без реальной экспертизы проверяющего; когнитивная капитуляция.

Как теряют ответственность, не заметив этого

Последний анти-паттерн стоит развернуть, потому что он самый незаметный.

Ответственность размывается не только когда её не назначили. Есть вариант коварнее: человек назначен, подпись стоит — но решение принято потому, что система изложила его уверенно, а не потому, что человек сам понял. Замкнутый контур из согласных между собой моделей может быть очень уверен и полностью неправ одновременно, и рядом не останется никого, кто заметит разницу. Эдди Османи описывает это состояние точнее всего: уверенность системы становится вашей уверенностью, и в итоге никто ничего не понял.

Проверка при этом простая. Может ли подписавший объяснить решение своими словами и назвать условия, при которых оно окажется неверным? Если не может — ответственность существует на бумаге, а принцип фактически не выполнен, сколько бы журналов вы ни вели.

Со стороны ценности

Кому и зачем. И руководителю, и исполнителю — получать выигрыш в скорости и качестве, не теряя контроль и личную ответственность за результат.

В чём выгода. Снимается главный тормоз «отдал агенту — и не знаю, что там». Когда ответственность и способ проверки видны, ИИ можно применять широко, а не только на безопасных мелочах. Падает не издержка — падает барьер доверия.

Что легко переоценить. Что ответственность человека подразумевается сама собой. Не подразумевается: она существует ровно настолько, насколько прослеживается в артефактах.

Дёшево проверить. Возьмите пять недавних значимых результатов и посмотрите, читается ли по ним автор решения и след проверки. Если нет — начинать надо отсюда, а не с новых инструментов.

Связь с другими принципами

P1 — вход в методологию. Он ставит условие, при котором всё остальное имеет смысл: ИИ применяется везде, а отвечает человек.

Дальше выясняется, что агенту нужны данные, чтобы работать — это P2 «Единый цифровой контекст». А чтобы человек мог отвечать за результат агента, он должен уметь его оценить — поэтому P1 напрямую держится на P9 «Культура в основе» и на массовой беглости, с которой начинается агентный трек.