Ошибки при работе с ИИ. Часть 1
Бывает, что ИИ выдает совсем не тот результат, который мы ожидали. И дело не всегда в возможностях самой модели: даже хороший инструмент может отвечать хуже, если смешать контекст, нечетко поставить задачу или передать лишние данные.
Пообщались с Константином, экспертом по ИИ в Naumen, и собрали несколько частых ошибок, которые встречаются в работе с нейросетями.
В первой части нашего материала говорим о контексте, постановке задачи и конфиденциальных данных: почему не стоит решать все в одном чате, как задавать рамки и что проверять перед загрузкой рабочих материалов.
Решаем все задачи в одном чате
Чем больше разных тем и задач накапливается в диалоге, тем сложнее модели понять, какая информация сейчас действительно важна.
В чем суть
У модели есть ограниченный рабочий контекст. И дело не только в его объеме: важно, насколько информация внутри него связана с текущей задачей
Как исправить
- Открывайте новый чат под новую тему.
- Большую задачу делите на этапы.
- Перед следующим этапом делайте выжимку.
Ставим задачу без необходимых рамок
Расплывчатые или перегруженные запросы не помогают модели понять, какой результат вы ожидаете.
В чем суть
Модель не знает ваших целей и критериев, пока вы их не обозначили. Хороший запрос — это не обязательно длинный промпт. В нем просто должно быть достаточно информации, чтобы понять задачу и ожидаемый результат.
Как исправить
Укажите, что нужно сделать, зачем и для кого, какие данные использовать, что исключить и в каком виде нужен результат.
Если контекста много, лучше всего надиктовать задачу своим голосом. По опыту, модели лучше справляются с подробным, пусть и сырым описанием, чем с коротким запросом, в котором не хватает контекста.
→ Полезный инструмент для голосовой надиктовки задач и контекста для ИИ.
Передаем ИИ конфиденциальные данные
Помимо рабочих материалов, в модель могут попасть API-ключи, пароли, персональные данные или внутренняя информация.
В чем суть
При работе с внешними ИИ-сервисами правила работы с данными зависят от платформы и тарифа. Поэтому важно понимать, что можно передавать, а что нужно обезличить
Как исправить
- Удалите или замените API-ключи, пароли, имена и контакты плейсхолдерами.
- Уберите данные, без которых и так можно решить задачу.
- Если сомневаетесь, попросите ИИ подсказать способ обезличивания на нейтральном примере.
Перед загрузкой данных в ИИ задайте себе два вопроса: безопасно ли передавать этот материал за пределы компании и может ли эта информация навредить компании — например, дать доступ к системе, клиентским данным или внутренним ресурсам.
Если хотя бы в одном случае есть сомнения, не передавайте материал в исходном виде.
