Как LLM може да използва външни източници чрез RAG?

Големите езикови модели (LLM) като GPT, LLaMa и други бяха най-горещата тема през изминалата година и тепърва ще намират още приложения в основата на множество разработки - както научни, така и продукти с комерсиална цел. Основен техен недостатък обаче са така наречените халюцинации: генерирането на неверен или нежелан текст. Обикновено причината за това е, че на тях може да им липсва експертиза в конкретната област, за която даден човек или бизнес би искал да ги използва. С това се появява нуждата за консистентно извличане на необходимата информация, с която да бъде подкрепено знанието на модела. Точно това е концепцията на Retrieval-Augmented Generation, която ще се демонстрира практически в този семинар.

По време на събитието ще се обсъди и види на практика:

• Fine-tuning vs RAG: Kой подход кога да се ползва?;
• Какво са vector databases & text embeddings и защо са нужни?;
• Как се прави prompt engineering?;
• Библиотеки и готови решения;
• Примерни идеи.