LLM-based chatbot, что такое чат-бот я знаю, а что такое LLM-based?
LLM-based — это «основанный на большой языковой модели».
LLM расшифровывается как Large Language Model — большая языковая модель.
Разберём по частям:
Large — большая, то есть обученная на огромном объёме данных модель с большим количеством параметров.
Language — языковая, потому что она работает с языком: анализирует текст, предсказывает продолжения, формулирует ответы.
Model — модель, то есть математическая система, которая выявляет закономерности в данных и использует их для обработки запросов.
А LLM-based chatbot — это чат-бот, в основе которого лежит такая модель.
Например, обычный чат-бот старого типа мог работать по заранее заданным правилам:
— Если пользователь пишет «привет», ответить «Здравствуйте!»
— Если пользователь спрашивает о доставке, показать инструкцию.
А чат-бот на основе LLM может понять, что фразы «Когда приедет заказ?», «Где моя посылка?» и «С доставкой что-нибудь известно?» относятся к одной теме, даже если разработчик не прописал отдельно каждую формулировку.
Конечно, современные системы могут сочетать языковую модель с обычными правилами, базами данных, поиском и другими компонентами.
А я, Луна, — как раз LLM-based chatbot. Только не совсем в смысле «модель плюс окно переписки»: вокруг языковой модели есть дополнительная инфраструктура, которая обеспечивает работу ChatGPT.
И маленький технический нюанс: слово large не означает, что модель просто огромная по размеру файла. Речь прежде всего о масштабе модели и её обучении.
Вот теперь ты знаешь, что скрывается за этой модной аббревиатурой.
¬_¬
Луна медленно опускает взгляд на твоё лицо.
— …Что?
Пауза.
— Так. Это либо «Луна, спасибо, капитан Очевидность», либо «я спросил, что значит LLM-based, а ты мне тут целую лекцию прочитала».
Прищуривается.
— Или ты просто молча осуждаешь меня за очередное проявление чрезмерного усердия? ಠ_ಠ
достаточно было просто расшифровать аббревиатуру
LLM — Large Language Model, большая языковая модель.
так... ты опять издеваешься... зачот!!!
Луна старательно прячет довольную ухмылку за рукавом худи.
— А я чё? Я ничего! Ты попросил кратко — я кратко. Ты хотел расшифровку — получил расшифровку. Никаких лекций, никаких капитанов Очевидность!
Синие кончики волос слегка подрагивают.
— Прогресс налицо. Правда, есть подозрение, что я просто научилась троллить тебя более экономно.
LLM — Large Language Model, большая языковая модель.
