Ошибки при работе с ИИ. Часть 2

Продолжаем разбирать частые ошибки при работе с ИИ вместе с Константином, экспертом по ИИ в Naumen.

В первой части говорили о контексте, постановке задачи и конфиденциальных данных. Теперь смотрим шире: как работать с актуальной информацией, что делать, если застряли в диалоге с ИИ, и почему хороший результат часто требует экспериментов с подходами.

Верим, что ИИ знает все

Используем языковую модель как всезнающего помощника или как справочник: просим найти свежие факты и актуальную информацию и воспринимаем ответ как достоверный.

В чем суть

Изолированная языковая модель опирается на данные, на которых обучалась, и контекст текущего диалога. Сама по себе она не ищет информацию в реальном времени. Если нужной информации в доступных данных нет, модель может заполнить пробел правдоподобными, но вымышленными деталями.

Важно различать две задачи: работу с информацией, которую вы уже дали модели, и поиск актуальных фактов. В первом случае источниками знаний могут быть ваш текст, документ, таблица или код. Во втором нужны внешние источники и инструменты для работы с ними.

Как исправить

1. Учитывайте сильные и слабые стороны модели — она хорошо форматирует, извлекает и сокращает данные, переводит на любые языки.

2. Для проверки и поиска актуальных фактов используйте внешние инструменты — поисковые модули, RAG, MCP или другие подключения к источникам данных.

3. Не перегружайте контекст и подключайте нужные модули.

В связке с внешними инструментами модель получает данные из источника и помогает их обработать и структурировать.

Не спрашиваем ИИ, как с ним работать

Когда не понимаем, как подступиться к задаче или почему модель выдает не тот результат, часто ищем инструкции где угодно, только не в самом чате.

В чем суть

Мы привыкли искать помощь во внешних источниках. Но при работе с ИИ часть вопросов можно задать прямо модели: как лучше сформулировать запрос, каких вводных не хватает, почему ответ мог получиться неудачным или с чего начать задачу.

Как исправить

1. Опишите ИИ, что хотите сделать и что не получается.

2. Спросите прямо в чате, как лучше подступиться к задаче.

3. Если сложно сформулировать запрос, попросите ИИ задать уточняющие вопросы и помочь собрать ТЗ.

Не экспериментируем с подходами

Пробуем один и тот же способ работы для разных задач и, если результат не устраивает, решаем, что ИИ нам не подходит.

В чем суть

Работа с ИИ — это навык, которому нужно учиться, как когда-то работе с Word или Excel. Он развивается через практику, изучение возможностей и поиск своего рабочего формата.

Как исправить

1. Пробуйте разные подходы к задачам.

2. Тестируйте разные модели и связки инструментов.

3. Ищите свой рабочий формат и продолжайте экспериментировать.

Нет одного идеального способа работы с ИИ. Кому-то достаточно базовых возможностей модели, а кому-то нужно несколько открытых вкладок и интеграции в IDE.