LLM Featured ลด Cost LLM ยังไงได้บ้าง? ลดต้นทุน LLM: ใช้โมเดลเล็ก, บีบ Prompt, สรุปบทสนทนา, RAG สำหรับข้อมูลใหญ่, Caching, Batch Request, YAML แทน JSON, LLM Router, เข้าใจ framework ลดการเรียก LLM, ตรวจสอบประสิทธิภาพต่อเนื่อง
LLM LLMOps คืออะไร Large Language Models (LLMs) ยังคงร้อนแรงอยู่นะฮะ 🔥 ตอนที่เขียนอยู่นี้ น่าจะมีหลายบริษัทเริ่มนำไปลอง นำไปใช้สร้างเป็น use-cases ออกมากันบ้างแล้ว แต่การจะเอา LLM ไปใช้จริงๆ นั้นก็ยังมี challenges อีกเยอะเลย ตั้งแต่ขั้นตอนสร้าง จนถึงการ deploy และดูแล
text-to-sql Text-to-SQL วัดผลยังไง ใครที่ได้อ่านบทความ Text-to-SQL ด้วย LLM ไปแล้ว หรือใครที่กำลังพยายามจะ Improve text-to-sql กันอยู่ บทความนี้เรามาวัดกันหน่อยดีกว่าว่า Text-to-SQL ที่เราทำนั้น เจ๋งแค่ไหน 😎 Text-To-SQL ด้วย LLMText-to-SQL ด้วย LLM มันเวิร์คไหมนะ? 🤔 เดี๋ยวนี้ Large Language Model (LLM)
RAG RAG วัดผลยังไง าพูดถึง RAG หรือ Retrieval-Augmented Generation หลายคนอาจจะงงว่ามันคืออะไร แต่ถ้าเราลองศึกษาดูให้ดีแล้ว จะพบว่า RAG นั้นเป็นวิธีการที่น่าสนใจมากๆ เลยทีเดียว RAG คืออะไรRAG ย่อมาจาก Retrieval Augmented Generation, พูดง่าย ๆ มันคือการให้ LLM เราทำข้
RAG 7 จุดระวัง เวลาทำ RAG เนื้อหานี้มาจาก Seven Failure Points When Engineering a Retrieval Augmented Generation System ครับ เขียนไว้ดีเลยทีเดียว แนะนำให้ไปอ่าน Paper ตัวเต็มกันนะครับ มี Lesson Learned และ Findings ที่น่าสนใจอื่น ๆ ด้วย สมัครสมาชิก หรือ เลี้ยงกาแฟ ☕ เอาหน่
text-to-sql Featured Text-To-SQL ด้วย LLM Text-to-SQL ด้วย LLM มันเวิร์คไหมนะ? 🤔 เดี๋ยวนี้ Large Language Model (LLM) กำลังฮ็อตฮิตสุด ๆ เลยนะครับ หลายคนก็เลยอยากจะเอามาใช้งานกับข้อมูลตัวเองบ้าง โดยเฉพาะอย่างยิ่งการคุยกับฐานข้อมูลด้วยภาษาธรรมดา แล้วให้มันสร้าง SQL Query มาให้เราเลย อย่างเจ๋ง!
RAG RAG คืออะไร RAG ย่อมาจาก Retrieval Augmented Generation, พูดง่าย ๆ มันคือการให้ LLM เราทำข้อสอบแบบ Open-book, เปิดหนังสือดูได้ Follow on X(Twitter) RAG ประกอบด้วย 3 ขั้นตอนหลักๆ ดังนี้ 1. Retrieve - ค้นหาข้อมูลที่เกี่ยวข้องกับคำถามจากฐานข้อมูลหรือ knowledge
LLM Featured Get started with LLM Prerequisite It would be easier if we have knowledge on NLP or Embedding, I would recommend Databricks course, the course start from the NLP knowledge till putting LLM to production. What is LLM LLM stands for Large Language Model, which aim to predict the next words. There are long history