В этой части вы научитесь писать более эффективные и экономически выгодные приложения, использующие языковые модели.
В главе 8 мы обсудим несколько наиболее популярных поставщиков, помимо OpenAI, их модели и библиотеки. Ведь прежде, чем применять модели на больших наборах данных, крайне важно сравнить модели, предлагаемые разными поставщиками. Это позволяет найти оптимальный баланс между стоимостью и качеством в рамках конкретного сценария.
В главе 9 описываются методы оптимизации затрат на примере демонстрационного сценария. В ней мы рассмотрим такие темы, как промпт-инжиниринг, оптимальная настройка параметров конфигурации модели и дообучение — процесс, с помощью которого языковая модель адаптируется под выполнение одной конкретной задачи. Как показывается в главе, использование этих методов способно значительно повысить качество модели и снизить стоимость ее работы.
В главе 10 мы обсудим два популярных фреймворка для разработки сложных приложений на основе языковых моделей: LangChain и LlamaIndex. Оба можно эффективно использовать для анализа данных. В частности, в главе показаны варианты применения этих фреймворков для создания агентов. Этот подход позволяет языковым моделям решать сложные задачи анализа данных с помощью различных вычислительных инструментов.