Душнила это, по сути, набор частичных промтов (около 60) и инструментов (пока 8), которые с помощью конструктора собираются в единый промт по шаблону (их 10), примешивая туда значения переменных.
Файлы, название которых начинается с _ и заканчивается на .txt это частичный промт. Полный состоит из вызовов частичных внутри обёртки, с передачей внутрь переменных (например, имя пользователя).
Файлы .yml описывают инструменты. Их LLM вызывает прямо во время работы со своей стороны. Например, правила платформы не имеет смысла пихать в каждый промт, поэтому для этого есть инструмент, который возвращает список разделов, а потом LLM читает конкретный раздел на выбор.
Так как теперь моделей несколько, я добавил механизм перекрытий: можно создать папку с именем модели и если там есть файл, то он либо объединяется с общим, либо заменяет его. Для 3.7 промт пришлось переделывать, поэтому он перекрывает промт от 3.0.
Кстати, сегодня я обновлю промты 3.7 ещё раз и надеюсь, что я не только достиг всего, что было хорошо в 3.0, но и ушёл вперёд. Если всё будет норм, то на этой неделе новый промт заменит общий.
Не думаю, что это всё читать вам сильно интересно, но рассказывать это котам ещё скучнее, а у меня всё же на это уходит много дней. Кроме того, после подписки на Тредс я несколько разочаровался в шитпостинге - лучше, наконец, начну писать статьи про всякое, может даже про программирование.
Приєднуйтесь до обговорення
6 коментарів
Читати коментарі