Con người đã tích cực sử dụng và tích hợp chatbot vào nhiều ứng dụng khác nhau. Một số ví dụ điển hình bao gồm chatbot hỗ trợ bán hàng và chatbot cung cấp thông tin về quy trình. Những chatbot này thường được lập trình dựa trên các kịch bản cố định, từ khóa nhất định hoặc sử dụng công nghệ NLP tiên tiến từ các nền tảng như Rasa, ChatterBot, Dialogflow, v.v. Tuy nhiên, chúng thường không thể tương tác một cách tự nhiên với người dùng và không thể xử lý tất cả các tình huống, gây ra nhiều vấn đề cho người dùng. Tuy nhiên, kể từ khi Chat GPT và các mô hình ngôn ngữ lớn (LLM) được phát triển, đã có một sự cải tiến đáng kể trong lĩnh vực chatbot.
Đáng chú ý, sau khi mô hình Llama được Meta AI giới thiệu vào tháng 2 năm 2023, đã có một loạt công trình nghiên cứu liên tục được công bố về việc tinh chỉnh, lượng tử hóa và tối ưu hóa LLM. Điều này đã mở ra cơ hội cho các doanh nghiệp có thể phát triển chatbot riêng của mình với chi phí thấp. Trong repository, mình sẽ phát triển xây dựng một chatbot nhỏ để tra cứu thông tin trong tài liệu, hy vọng sẽ giúp bạn dễ dàng tiếp cận và bắt đầu với LLM.
Mình là một sinh viên Trường Đại học Mỏ - Địa chất có niểm đam mê với Công nghệ thông tin, mình sẽ phát triển theo các hướng phổ biến như Parameter Efficient Finetuning (PEFT), Embedding + RAG cùng với framework Langchain để xây dựng. Từ đó, dùng FastAPI để xây dựng và kết nối với giao diện cho người dùng trực quan hơn.
Trường hợp mình muốn chat với con một con bot bất kỳ thì mình phải truy cập vào website của bot đó, và từ đó mình muốn xây dựng botchat cho riêng mình thì ở đây sử dụng Langchain.
Tuy nhiên, trong quá trình deploy, mình đang gặp một số vấn đề nên chưa thành công, mình vẫn đang tìm hiểu. Mình đã thử các cách qua Heroku, Docker, VPS... mà vẫn chưa được như ý muốn, mình vẫn đang cập nhật thêm hì :3
Yêu cầu bắt buộc để run: Python 3.10.3; VS Build Tool; popler; Pytorch 2.2.0+cpu